1
00:00:30,000 --> 00:00:33,500
Correção e sincronização:
Mazrim Taim

2
00:00:35,078 --> 00:00:41,302
O que estamos à beira é
um mundo cada vez mais intenso,

3
00:00:41,345 --> 00:00:45,219
inteligência artificial sofisticada.

4
00:00:45,262 --> 00:00:48,396
A tecnologia está evoluindo
muito mais rápido que a nossa sociedade

5
00:00:48,439 --> 00:00:51,181
tem a habilidade
para nos proteger como cidadãos.

6
00:00:51,486 --> 00:00:55,707
Os robôs estão chegando,
e eles destruirão nossos meios de subsistência.

7
00:01:01,887 --> 00:01:04,238
Você tem uma inteligência em rede
que nos observa,

8
00:01:04,281 --> 00:01:08,590
sabe tudo sobre nós,
e começa a tentar nos mudar.

9
00:01:08,633 --> 00:01:12,768
O Twitter se tornou
o site de notícias número um do mundo.

10
00:01:12,811 --> 00:01:15,205
A tecnologia nunca é boa ou ruim.

11
00:01:15,249 --> 00:01:18,948
É o que fazemos
com a tecnologia.

12
00:01:18,991 --> 00:01:22,734
Eventualmente, milhões de pessoas
serão expulsos do emprego

13
00:01:22,778 --> 00:01:25,737
porque suas habilidades
ficarão obsoletos.

14
00:01:25,781 --> 00:01:27,435
Desemprego em massa...

15
00:01:27,478 --> 00:01:31,727
maiores desigualdades,
até mesmo agitação social.

16
00:01:32,570 --> 00:01:35,530
Independentemente de
ter medo ou não ter medo,

17
00:01:35,573 --> 00:01:38,185
a mudança está chegando,
e ninguém pode pará-lo.

18
00:01:44,582 --> 00:01:48,146
Investimos enormes quantias de dinheiro,
e então é lógico

19
00:01:48,148 --> 00:01:50,893
que os militares,
com seus próprios desejos,

20
00:01:50,936 --> 00:01:53,330
vamos começar a usar
essas tecnologias.

21
00:01:53,374 --> 00:01:57,552
Sistemas de armas autônomos
poderia levar a uma corrida armamentista global

22
00:01:57,595 --> 00:02:00,032
para rivalizar com a Era Nuclear.

23
00:02:02,339 --> 00:02:05,429
Sabemos qual é a resposta.
Eles acabarão por nos matar.

24
00:02:10,826 --> 00:02:15,874
Esses saltos tecnológicos
vão produzir milagres incríveis

25
00:02:15,918 --> 00:02:18,181
e horrores incríveis.

26
00:02:24,274 --> 00:02:29,323
Nós criamos isso,
então eu acho que, à medida que avançamos,

27
00:02:29,366 --> 00:02:33,762
esta inteligência
conterá partes de nós.

28
00:02:33,805 --> 00:02:35,981
E acho que a pergunta é:

29
00:02:36,025 --> 00:02:39,463
Será que conterá
as partes boas...

30
00:02:39,507 --> 00:02:41,378
ou as partes ruins?

31
00:03:04,836 --> 00:03:08,840
Os sobreviventes
chamou a guerra de "Dia do Julgamento".

32
00:03:08,884 --> 00:03:12,583
Eles viveram apenas para enfrentar
um novo pesadelo:

33
00:03:12,627 --> 00:03:14,319
A guerra contra as máquinas.

34
00:03:15,456 --> 00:03:18,023
eu acho
nós estragamos tudo completamente.

35
00:03:18,067 --> 00:03:21,549
Acho que Hollywood conseguiu
para vacinar o público em geral

36
00:03:21,592 --> 00:03:24,247
contra esta questão.

37
00:03:24,291 --> 00:03:28,251
A ideia de máquinas
que dominará o mundo.

38
00:03:28,295 --> 00:03:30,645
Abra as portas do compartimento das cápsulas, HAL.

39
00:03:30,688 --> 00:03:33,561
Sinto muito, David.

40
00:03:33,604 --> 00:03:35,911
Receio não poder fazer isso.

41
00:03:37,434 --> 00:03:38,696
HAL?

42
00:03:38,740 --> 00:03:40,437
Já gritamos lobo muitas vezes...

43
00:03:40,481 --> 00:03:42,483
...que o público
parou de prestar atenção,

44
00:03:42,484 --> 00:03:44,120
porque parece
ficção científica.

45
00:03:44,121 --> 00:03:46,001
Mesmo sentado aqui conversando
sobre isso agora,

46
00:03:46,002 --> 00:03:48,301
parece um pouco bobo,
um pouco como,

47
00:03:48,302 --> 00:03:51,697
"Oh, isso é um artefato
de algum filme cheeseball."

48
00:03:51,709 --> 00:03:56,584
A WOPR passa todo o seu tempo
pensando na Terceira Guerra Mundial.

49
00:03:56,627 --> 00:03:59,064
Mas não é.

50
00:03:59,108 --> 00:04:02,111
O público em geral está prestes
para ser pego de surpresa por isso.

51
00:04:11,555 --> 00:04:13,514
Como sociedade e como indivíduos,

52
00:04:13,557 --> 00:04:18,954
estamos cada vez mais cercados
pela inteligência da máquina.

53
00:04:18,997 --> 00:04:22,653
Nós carregamos este dispositivo de bolso
na palma da nossa mão

54
00:04:22,697 --> 00:04:24,829
que usamos para fazer
uma matriz impressionante

55
00:04:24,873 --> 00:04:26,831
das decisões da vida agora,

56
00:04:26,875 --> 00:04:29,007
auxiliado por um conjunto
de algoritmos distantes

57
00:04:29,051 --> 00:04:30,748
que não temos compreensão.

58
00:04:34,186 --> 00:04:36,537
Já estamos bastante cansados
sobre a ideia

59
00:04:36,580 --> 00:04:37,929
que podemos falar com nosso telefone,

60
00:04:37,973 --> 00:04:40,062
e principalmente nos entende.

61
00:04:40,105 --> 00:04:42,456
Eu encontrei um número considerável
de filmes de ação.

62
00:04:42,499 --> 00:04:44,327
Cinco anos atrás - de jeito nenhum.

63
00:04:44,371 --> 00:04:47,678
Robótica.
Máquinas que veem e falam...

64
00:04:47,722 --> 00:04:48,897
...e ouça.

65
00:04:48,940 --> 00:04:50,202
Tudo isso é real agora.

66
00:04:50,246 --> 00:04:51,639
E essas tecnologias

67
00:04:51,682 --> 00:04:54,886
vão fundamentalmente
mudar a nossa sociedade.

68
00:04:55,730 --> 00:05:00,212
Agora temos esse ótimo
circulação de carros autônomos.

69
00:05:00,256 --> 00:05:01,953
Dirigindo um carro de forma autônoma

70
00:05:01,997 --> 00:05:05,688
pode mover a vida das pessoas
para um lugar melhor.

71
00:05:06,131 --> 00:05:09,570
Perdi vários membros da família,
incluindo minha mãe,

72
00:05:09,613 --> 00:05:11,876
meu irmão e minha cunhada
e seus filhos,

73
00:05:11,920 --> 00:05:14,009
a acidentes automobilísticos.

74
00:05:14,052 --> 00:05:18,405
Está bem claro que poderíamos
quase elimina acidentes de carro

75
00:05:18,448 --> 00:05:20,102
com automação.

76
00:05:20,145 --> 00:05:21,843
30.000 vidas somente nos EUA.

77
00:05:21,886 --> 00:05:24,955
Cerca de um milhão em todo o mundo
por ano.

78
00:05:25,499 --> 00:05:27,501
Na saúde, indicadores precoces

79
00:05:27,544 --> 00:05:29,503
são o nome do jogo
naquele espaço,

80
00:05:29,546 --> 00:05:33,158
então esse é outro lugar onde
pode salvar a vida de alguém.

81
00:05:33,202 --> 00:05:35,726
Aqui em
o centro de câncer de mama,

82
00:05:35,770 --> 00:05:38,381
todas as coisas que
o cérebro do radiologista

83
00:05:38,425 --> 00:05:43,386
faz em dois minutos,
o computador faz instantaneamente.

84
00:05:43,430 --> 00:05:47,303
O computador olhou
em 1 bilhão de mamografias,

85
00:05:47,347 --> 00:05:49,261
e leva esses dados
e aplica

86
00:05:49,305 --> 00:05:51,438
para esta imagem instantaneamente,

87
00:05:51,481 --> 00:05:54,441
então a aplicação médica
é profundo.

88
00:05:56,399 --> 00:05:59,402
Outra área realmente interessante que
estamos vendo muito desenvolvimento em

89
00:05:59,446 --> 00:06:03,275
é realmente entender
nosso código genético

90
00:06:03,319 --> 00:06:06,104
e usando isso
para diagnosticar doenças

91
00:06:06,148 --> 00:06:07,758
e criar
tratamentos personalizados.

92
00:06:11,675 --> 00:06:14,112
A aplicação principal
de todas essas máquinas

93
00:06:14,156 --> 00:06:17,246
será estender
nossa própria inteligência.

94
00:06:17,289 --> 00:06:19,422
Seremos capazes de fazer
nós mesmos mais inteligentes,

95
00:06:19,466 --> 00:06:22,543
e seremos melhores
na resolução de problemas.

96
00:06:22,586 --> 00:06:25,075
Não precisamos envelhecer.
Na verdade, entenderemos o envelhecimento.

97
00:06:25,076 --> 00:06:27,126
Seremos capazes de pará-lo.

98
00:06:27,169 --> 00:06:29,519
Realmente não há limite
para que máquinas inteligentes

99
00:06:29,563 --> 00:06:30,868
pode fazer pela raça humana.

100
00:06:36,308 --> 00:06:39,399
Como poderia uma máquina mais inteligente
não ser uma máquina melhor?

101
00:06:42,053 --> 00:06:44,708
É difícil dizer exatamente
quando comecei a pensar

102
00:06:44,752 --> 00:06:46,971
que isso foi um pouco ingênuo.

103
00:06:56,503 --> 00:07:00,898
Stuart Russell, ele é basicamente um deus
no campo da inteligência artificial.

104
00:07:00,942 --> 00:07:04,380
Ele escreveu o livro que quase
toda universidade usa.

105
00:07:04,424 --> 00:07:06,948
Eu costumava dizer que é o
livro de IA mais vendido.

106
00:07:06,991 --> 00:07:10,255
Agora eu apenas digo "É o PDF
isso é roubado com mais frequência."

107
00:07:13,694 --> 00:07:17,306
A inteligência artificial é
sobre tornar os computadores inteligentes,

108
00:07:17,349 --> 00:07:19,830
e do ponto
à vista do público,

109
00:07:19,874 --> 00:07:21,484
o que conta como IA
é apenas algo

110
00:07:21,528 --> 00:07:23,268
isso é surpreendentemente inteligente

111
00:07:23,312 --> 00:07:25,488
comparado com o que
pensamos em computadores

112
00:07:25,532 --> 00:07:28,004
normalmente seria capaz de fazer.

113
00:07:28,448 --> 00:07:33,801
IA é um campo de pesquisa
tentar basicamente simular

114
00:07:33,844 --> 00:07:36,717
todos os tipos de capacidades humanas.

115
00:07:36,760 --> 00:07:38,719
Estamos na era da IA.

116
00:07:38,762 --> 00:07:40,503
Vale do Silício
tem a capacidade de se concentrar

117
00:07:40,547 --> 00:07:42,462
em uma coisa brilhante e brilhante.

118
00:07:42,505 --> 00:07:45,508
Foram as redes sociais e
mídias sociais na última década,

119
00:07:45,552 --> 00:07:48,119
e está bem claro
que o bit mudou.

120
00:07:48,163 --> 00:07:50,557
E começa
com aprendizado de máquina.

121
00:07:50,600 --> 00:07:54,343
Quando olhamos para trás neste momento,
qual foi a primeira IA?

122
00:07:54,386 --> 00:07:57,389
Não é sexy e não é a coisa
poderíamos ver no cinema,

123
00:07:57,433 --> 00:08:00,741
mas você seria um ótimo caso
que o Google criou,

124
00:08:00,784 --> 00:08:03,395
não é um mecanismo de pesquisa,
mas uma divindade.

125
00:08:03,439 --> 00:08:06,486
Uma maneira de as pessoas perguntarem
qualquer pergunta que eles quisessem

126
00:08:06,529 --> 00:08:08,270
e obter a resposta que precisavam.

127
00:08:08,313 --> 00:08:11,273
A maioria das pessoas não está
ciente de que o que o Google está fazendo

128
00:08:11,316 --> 00:08:13,710
na verdade é uma forma de
inteligência artificial.

129
00:08:13,754 --> 00:08:16,234
Eles simplesmente vão lá,
eles digitam algo.

130
00:08:16,278 --> 00:08:18,323
O Google dá a eles a resposta.

131
00:08:18,367 --> 00:08:21,444
A cada pesquisa,
nós treinamos para ser melhor.

132
00:08:21,445 --> 00:08:24,108
Às vezes estamos digitando uma pesquisa,
e nos diga a resposta

133
00:08:24,109 --> 00:08:27,434
antes de terminar
fazendo a pergunta.

134
00:08:27,463 --> 00:08:29,944
Você sabe, quem é o presidente
do Cazaquistão?

135
00:08:29,987 --> 00:08:31,685
E isso apenas lhe dirá.

136
00:08:31,728 --> 00:08:34,818
Você não precisa ir para o Cazaquistão
site nacional para descobrir.

137
00:08:34,862 --> 00:08:37,081
Você não costumava fazer isso.

138
00:08:37,125 --> 00:08:39,475
Isso é inteligência artificial.

139
00:08:39,519 --> 00:08:42,783
Daqui a alguns anos, quando tentarmos
para entender, diremos,

140
00:08:42,826 --> 00:08:44,567
"Como é que perdemos isso?"

141
00:08:44,611 --> 00:08:48,484
É uma das contradições marcantes
que estamos enfrentando.

142
00:08:48,528 --> 00:08:52,053
Google e Facebook, e outros,
construímos negócios para nos dar,

143
00:08:52,096 --> 00:08:54,185
como sociedade, coisas grátis.

144
00:08:54,229 --> 00:08:56,013
Mas é uma barganha faustiana.

145
00:08:56,057 --> 00:09:00,017
Eles estão extraindo algo
de nós em troca,

146
00:09:00,061 --> 00:09:01,628
mas não sabemos

147
00:09:01,671 --> 00:09:03,760
qual código está sendo executado
do outro lado e por quê.

148
00:09:03,804 --> 00:09:05,846
Não temos ideia.

149
00:09:06,589 --> 00:09:08,591
Isso ataca
bem na questão

150
00:09:08,635 --> 00:09:11,028
de quanto deveríamos
confie nessas máquinas.

151
00:09:14,162 --> 00:09:18,166
Eu uso computadores
literalmente para tudo.

152
00:09:18,209 --> 00:09:21,386
Existem tantos
avanços do computador agora,

153
00:09:21,430 --> 00:09:23,824
e isso se tornou tal
uma grande parte de nossas vidas.

154
00:09:23,867 --> 00:09:26,174
É simplesmente incrível
o que um computador pode fazer.

155
00:09:26,217 --> 00:09:29,090
Você pode realmente carregar
um computador na bolsa.

156
00:09:29,133 --> 00:09:31,571
Quero dizer, quão incrível é isso?

157
00:09:31,614 --> 00:09:35,052
Acho que a maior parte da tecnologia se destina
para tornar as coisas mais fáceis

158
00:09:35,096 --> 00:09:37,315
e mais simples para todos nós,

159
00:09:37,359 --> 00:09:40,362
então espero que apenas
continua sendo o foco.

160
00:09:40,405 --> 00:09:43,147
Eu acho que todo mundo adora
seus computadores.

161
00:09:51,721 --> 00:09:53,810
As pessoas não percebem
eles estão constantemente

162
00:09:53,854 --> 00:09:59,076
sendo negociado com
por máquinas;

163
00:09:59,120 --> 00:10:02,993
se esse é o preço
de produtos em seu carrinho Amazon,

164
00:10:03,037 --> 00:10:05,517
se você consegue
em um voo específico,

165
00:10:05,561 --> 00:10:08,912
se você pode reservar
um quarto em um determinado hotel.

166
00:10:08,956 --> 00:10:11,959
O que você está experimentando
são algoritmos de aprendizado de máquina

167
00:10:12,002 --> 00:10:14,265
que determinaram
que uma pessoa como você

168
00:10:14,309 --> 00:10:17,791
está disposto a pagar 2 centavos a mais
e está mudando o preço.

169
00:10:21,795 --> 00:10:24,014
Agora, um computador parece
em milhões de pessoas

170
00:10:24,058 --> 00:10:28,105
simultaneamente para
padrões muito sutis.

171
00:10:28,149 --> 00:10:31,369
Você pode pegar aparentemente
pegadas digitais inocentes,

172
00:10:31,413 --> 00:10:34,677
como a playlist de alguém
no Spotify,

173
00:10:34,721 --> 00:10:37,201
ou coisas que eles
comprado na Amazon,

174
00:10:37,245 --> 00:10:40,291
e então usar algoritmos
para traduzir isso

175
00:10:40,335 --> 00:10:44,513
em um muito detalhado e
perfil muito preciso e íntimo.

176
00:10:47,603 --> 00:10:50,911
Há um dossiê sobre
cada um de nós que é tão extenso

177
00:10:50,954 --> 00:10:52,695
seria possivelmente
preciso dizer

178
00:10:52,739 --> 00:10:55,698
que eles saibam mais sobre você
do que sua mãe faz.

179
00:11:04,098 --> 00:11:06,883
A principal causa
do recente avanço da IA

180
00:11:06,927 --> 00:11:08,580
não é só isso, cara

181
00:11:08,624 --> 00:11:11,583
teve uma visão brilhante
de repente,

182
00:11:11,627 --> 00:11:14,325
mas simplesmente que temos
dados muito maiores

183
00:11:14,369 --> 00:11:18,242
para treiná-los
e computadores muito melhores.

184
00:11:18,286 --> 00:11:19,940
A mágica está nos dados.

185
00:11:19,983 --> 00:11:21,463
É uma tonelada de dados.

186
00:11:21,506 --> 00:11:23,726
Quero dizer, são dados
isso nunca existiu antes.

187
00:11:23,770 --> 00:11:26,686
Nós nunca tivemos
esses dados antes.

188
00:11:26,729 --> 00:11:30,733
Criamos tecnologias
que nos permitem capturar

189
00:11:30,777 --> 00:11:33,040
grandes quantidades de informações.

190
00:11:33,083 --> 00:11:35,738
Se você pensar em um bilhão
celulares do planeta

191
00:11:35,782 --> 00:11:38,393
com giroscópios
e acelerômetros

192
00:11:38,436 --> 00:11:39,786
e leitores de impressão digital...

193
00:11:39,829 --> 00:11:42,005
junte isso ao GPS
e as fotos que eles tiram

194
00:11:42,049 --> 00:11:43,964
e os tweets que você envia,

195
00:11:44,007 --> 00:11:47,750
estamos todos emitindo muito
quantidades de dados individualmente.

196
00:11:47,794 --> 00:11:50,274
Carros que dirigem como as câmeras
neles sugam informações

197
00:11:50,318 --> 00:11:52,059
sobre o mundo ao seu redor.

198
00:11:52,102 --> 00:11:54,844
Os satélites que estão agora
em órbita do tamanho de uma torradeira.

199
00:11:54,888 --> 00:11:57,629
O infravermelho sobre
a vegetação do planeta.

200
00:11:57,673 --> 00:12:01,024
As bóias que estão nos oceanos
para alimentar os modelos climáticos.

201
00:12:05,072 --> 00:12:08,902
E a NSA, a CIA,
à medida que coletam informações

202
00:12:08,945 --> 00:12:12,644
sobre o
situações geopolíticas.

203
00:12:12,688 --> 00:12:15,604
O mundo hoje está literalmente
nadando nesses dados.

204
00:12:20,609 --> 00:12:22,480
Em 2012,

205
00:12:22,524 --> 00:12:25,875
IBM estimou
que um ser humano médio

206
00:12:25,919 --> 00:12:31,098
deixa 500 megabytes
de pegadas digitais todos os dias.

207
00:12:31,141 --> 00:12:34,841
Se você quisesse fazer backup
no valor de um dia de dados

208
00:12:34,884 --> 00:12:36,494
que a humanidade produz

209
00:12:36,538 --> 00:12:39,062
e imprimi-lo
em um papel tamanho carta,

210
00:12:39,106 --> 00:12:43,806
frente e verso, tamanho de fonte 12,
e você empilha,

211
00:12:43,850 --> 00:12:46,113
chegaria de
a superfície da Terra

212
00:12:46,156 --> 00:12:49,116
ao sol quatro vezes.

213
00:12:49,159 --> 00:12:51,292
Isso é todo dia.

214
00:12:51,335 --> 00:12:53,816
Os próprios dados
não é bom ou mau.

215
00:12:53,860 --> 00:12:55,470
É como é usado.

216
00:12:55,513 --> 00:12:58,342
Estamos contando, realmente,
na boa vontade dessas pessoas

217
00:12:58,386 --> 00:13:01,171
e nas políticas
destas empresas.

218
00:13:01,215 --> 00:13:03,870
Não há exigência legal
por como eles podem

219
00:13:03,913 --> 00:13:06,307
e deveria usar
esse tipo de dados.

220
00:13:06,350 --> 00:13:09,266
Isso, para mim, está no coração
da questão da confiança.

221
00:13:11,007 --> 00:13:13,793
Neste momento há um
corrida gigante para criar máquinas

222
00:13:13,836 --> 00:13:15,751
que são tão inteligentes quanto os humanos.

223
00:13:15,795 --> 00:13:18,071
Google – Eles estão trabalhando em
qual é realmente o tipo de

224
00:13:18,072 --> 00:13:20,074
Projeto Manhattan
de inteligência artificial.

225
00:13:20,075 --> 00:13:22,686
Eles têm mais dinheiro.
Eles têm mais talento.

226
00:13:22,714 --> 00:13:27,067
Eles estão comprando empresas de IA
e empresas de robótica.

227
00:13:27,110 --> 00:13:29,069
As pessoas ainda pensam
do Google como mecanismo de busca

228
00:13:29,112 --> 00:13:30,722
e seu provedor de e-mail

229
00:13:30,766 --> 00:13:33,943
e muitas outras coisas
que usamos diariamente,

230
00:13:33,987 --> 00:13:39,383
mas atrás daquela caixa de pesquisa
são 10 milhões de servidores.

231
00:13:39,427 --> 00:13:43,910
Isso torna o Google o mais poderoso
plataforma de computação do mundo.

232
00:13:43,953 --> 00:13:47,217
O Google agora está funcionando
em uma plataforma de computação de IA

233
00:13:47,261 --> 00:13:50,133
isso terá
100 milhões de servidores.

234
00:13:52,179 --> 00:13:53,963
Então, quando você está interagindo
com o Google,

235
00:13:54,007 --> 00:13:56,052
estamos apenas vendo
a unha de alguma coisa

236
00:13:56,096 --> 00:13:58,881
isso é uma fera gigante
em preparação.

237
00:13:58,925 --> 00:14:00,622
E a verdade é que
Eu nem tenho certeza

238
00:14:00,665 --> 00:14:02,798
que o Google sabe
o que está se tornando.

239
00:14:11,546 --> 00:14:15,811
Se você olhar dentro de quais algoritmos
estão sendo usados no Google,

240
00:14:15,855 --> 00:14:20,076
é tecnologia
em grande parte a partir dos anos 80.

241
00:14:20,120 --> 00:14:23,863
Então esses são modelos que você
treine mostrando a eles um 1, um 2,

242
00:14:23,906 --> 00:14:27,344
e um 3, e não aprende
o que é 1 ou o que é 2 -

243
00:14:27,388 --> 00:14:30,434
Aprende qual é a diferença
entre 1 e 2 é.

244
00:14:30,478 --> 00:14:32,436
É apenas um cálculo.

245
00:14:32,480 --> 00:14:35,396
Na última meia década,
onde fizemos esse progresso rápido,

246
00:14:35,439 --> 00:14:38,268
tudo foi
no reconhecimento de padrões.

247
00:14:38,312 --> 00:14:41,184
A maior parte da boa e antiga IA

248
00:14:41,228 --> 00:14:44,057
foi quando diríamos aos nossos computadores

249
00:14:44,100 --> 00:14:46,798
como jogar um jogo como o xadrez...

250
00:14:46,842 --> 00:14:49,584
do velho paradigma onde
você acabou de dizer ao computador

251
00:14:49,627 --> 00:14:51,895
exatamente o que fazer.

252
00:14:54,502 --> 00:14:57,505
Isso é "Perigo!"

253
00:14:59,420 --> 00:15:02,510
"O Desafio IBM"!

254
00:15:02,553 --> 00:15:05,730
Ninguém na época
tinha pensado que uma máquina

255
00:15:05,774 --> 00:15:08,298
poderia ter a precisão
e a confiança

256
00:15:08,342 --> 00:15:11,475
e a velocidade para jogar "Jeopardy!"
bem o suficiente contra os melhores humanos.

257
00:15:11,519 --> 00:15:14,609
Vamos jogar "Jeopardy!"

258
00:15:18,569 --> 00:15:20,354
O que é "sapato"?

259
00:15:20,397 --> 00:15:21,877
Você está certo.
Você pode escolher.

260
00:15:21,921 --> 00:15:24,836
Personagem Literário APB
por $ 800.

261
00:15:24,880 --> 00:15:28,014
Resposta -
a dobradinha diária.

262
00:15:28,057 --> 00:15:31,539
Watson realmente conseguiu seu
conhecimento lendo a Wikipedia

263
00:15:31,582 --> 00:15:34,672
e 200 milhões de páginas
de documentos em linguagem natural.

264
00:15:34,716 --> 00:15:36,674
Você não pode programar todas as linhas

265
00:15:36,718 --> 00:15:38,502
de como o mundo funciona.

266
00:15:38,546 --> 00:15:40,722
A máquina tem que aprender
lendo.

267
00:15:40,765 --> 00:15:42,202
Agora chegamos ao Watson.

268
00:15:42,245 --> 00:15:43,986
"Quem é Bram Stoker?"

269
00:15:44,030 --> 00:15:45,988
E a aposta?

270
00:15:46,032 --> 00:15:49,165
Olá! $ 17.973.

271
00:15:49,209 --> 00:15:50,993
$ 41.413.

272
00:15:51,037 --> 00:15:53,343
E um total de dois dias
de $ 77--

273
00:15:53,387 --> 00:15:56,694
O treinamento do Watson
em grandes quantidades de texto,

274
00:15:56,738 --> 00:15:59,628
mas não é assim
entende o que está dizendo.

275
00:15:59,671 --> 00:16:02,309
Não sabe que a água faz
coisas molhadas ao tocar na água

276
00:16:02,352 --> 00:16:04,441
e vendo o caminho
as coisas se comportam no mundo

277
00:16:04,485 --> 00:16:06,182
do jeito que você e eu fazemos.

278
00:16:06,226 --> 00:16:10,143
Muita IA de linguagem hoje
não está construindo modelos lógicos

279
00:16:10,186 --> 00:16:11,622
de como o mundo funciona.

280
00:16:11,666 --> 00:16:15,365
Em vez disso, está olhando
como as palavras aparecem

281
00:16:15,409 --> 00:16:18,238
no contexto de outras palavras.

282
00:16:18,281 --> 00:16:20,196
David Ferrucci
desenvolveu o Watson da IBM,

283
00:16:20,240 --> 00:16:23,547
e alguém perguntou a ele,
"Watson pensa?"

284
00:16:23,591 --> 00:16:26,660
E ele disse:
"Um submarino nada?"

285
00:16:26,903 --> 00:16:29,331
E o que eles queriam dizer era,
quando desenvolveram submarinos,

286
00:16:29,332 --> 00:16:32,949
eles pegaram emprestados princípios básicos
de nadar de peixes.

287
00:16:33,035 --> 00:16:36,525
Mas um submarino nada mais longe e mais rápido
do que peixes e pode transportar uma carga útil enorme.

288
00:16:36,569 --> 00:16:39,411
Ele nada mais que os peixes.

289
00:16:39,955 --> 00:16:43,741
Watson vencendo o jogo "Jeopardy!"
ficará na história da IA

290
00:16:43,785 --> 00:16:46,370
como um marco significativo.

291
00:16:46,614 --> 00:16:49,269
Tendemos a ficar surpresos
quando a máquina funciona tão bem.

292
00:16:49,312 --> 00:16:52,663
Fico ainda mais surpreso quando
o computador vence os humanos nas coisas

293
00:16:52,707 --> 00:16:55,188
que os humanos são
naturalmente bom em.

294
00:16:55,231 --> 00:16:58,060
É assim que progredimos.

295
00:16:58,104 --> 00:17:00,671
Nos primeiros dias de
o projeto Google Brain,

296
00:17:00,715 --> 00:17:02,804
Eu dei à equipe um muito
instrução simples,

297
00:17:02,847 --> 00:17:05,807
que era: "Construa o maior
rede neural possível,

298
00:17:05,850 --> 00:17:08,157
cerca de 1.000 computadores."

299
00:17:08,201 --> 00:17:12,161
Uma rede neural é algo muito próximo
a uma simulação de como o cérebro funciona.

300
00:17:12,205 --> 00:17:16,818
É muito probabilístico,
mas com relevância contextual.

301
00:17:16,819 --> 00:17:18,456
Em seu cérebro,
você tem neurônios longos

302
00:17:18,457 --> 00:17:20,372
que se conectam a milhares
de outros neurônios,

303
00:17:20,373 --> 00:17:22,592
e você tem esses caminhos
que são formados e forjados

304
00:17:22,593 --> 00:17:24,769
com base no que
o cérebro precisa fazer.

305
00:17:24,782 --> 00:17:28,960
Quando um bebê tenta algo e
dá certo, há uma recompensa,

306
00:17:29,004 --> 00:17:32,312
e aquele caminho que criou
o sucesso é fortalecido.

307
00:17:32,355 --> 00:17:34,662
Se falhar em alguma coisa,
o caminho está enfraquecido,

308
00:17:34,705 --> 00:17:36,794
e assim, com o tempo,
o cérebro fica afiado

309
00:17:36,838 --> 00:17:40,120
ser bom em
o ambiente ao seu redor.

310
00:17:40,363 --> 00:17:43,279
Realmente, está ficando
máquinas aprendam sozinhas.

311
00:17:43,323 --> 00:17:45,538
Isso é chamado de "aprendizado profundo",
e "aprendizado profundo"

312
00:17:45,539 --> 00:17:48,834
e "redes neurais"
significam aproximadamente a mesma coisa.

313
00:17:48,835 --> 00:17:52,391
Aprendizado profundo
é uma abordagem totalmente diferente

314
00:17:52,419 --> 00:17:55,161
onde o computador aprende
mais como uma criança,

315
00:17:55,204 --> 00:17:56,466
apenas obtendo muitos dados

316
00:17:56,510 --> 00:18:00,340
e eventualmente
descobrir coisas.

317
00:18:00,383 --> 00:18:03,125
O computador simplesmente recebe
mais inteligente e mais inteligente

318
00:18:03,169 --> 00:18:05,997
pois tem mais experiências.

319
00:18:06,041 --> 00:18:09,697
Imagine, se quiser, uma rede neural,
você sabe, cerca de 1.000 computadores.

320
00:18:09,740 --> 00:18:11,438
E isso acorda
sem saber de nada.

321
00:18:11,481 --> 00:18:14,093
E fizemos assistir no YouTube
por uma semana.

322
00:18:25,408 --> 00:18:28,194
Charlie!
Isso realmente doeu!

323
00:18:36,245 --> 00:18:38,508
E assim, depois de assistir
YouTube por uma semana,

324
00:18:38,552 --> 00:18:39,988
o que aprenderia?

325
00:18:40,031 --> 00:18:42,103
Tínhamos uma hipótese de que
aprenderia a detectar

326
00:18:42,146 --> 00:18:44,384
objetos que ocorrem comumente
em vídeos.

327
00:18:44,427 --> 00:18:47,517
E então, sabemos que os rostos humanos
aparecem muito em vídeos,

328
00:18:47,561 --> 00:18:49,302
então olhamos,
e, vejam só,

329
00:18:49,345 --> 00:18:52,008
havia um neurônio que tinha
aprendeu a detectar rostos humanos.

330
00:18:52,052 --> 00:18:55,865
Deixe Britney em paz!

331
00:18:56,309 --> 00:18:58,354
Bem, o que mais
aparece muito em vídeos?

332
00:19:00,095 --> 00:19:01,792
Então, nós olhamos,
e para nossa surpresa,

333
00:19:01,836 --> 00:19:05,082
na verdade havia um neurônio
que aprendeu a detectar gatos.

334
00:19:14,892 --> 00:19:17,068
Ainda me lembro de ver o reconhecimento.

335
00:19:17,112 --> 00:19:20,071
"Uau, isso é um gato. Ok, legal.
Ótimo."

336
00:19:23,162 --> 00:19:26,295
É tudo muito inócuo quando
você está pensando no futuro.

337
00:19:26,339 --> 00:19:29,733
Tudo parece meio
inofensivo e benigno.

338
00:19:29,777 --> 00:19:33,520
Mas estamos fazendo arquiteturas cognitivas
que voará mais longe e mais rápido que nós

339
00:19:33,563 --> 00:19:37,437
e transportar uma carga útil maior,
e eles não serão quentes e confusos.

340
00:19:37,480 --> 00:19:41,702
Penso que, dentro de três a cinco anos,
você verá um sistema de computador

341
00:19:41,745 --> 00:19:45,401
isso será capaz
aprender autonomamente

342
00:19:45,445 --> 00:19:49,013
como entender,
como construir compreensão,

343
00:19:49,057 --> 00:19:51,364
não muito diferente do jeito
a mente humana funciona.

344
00:19:53,931 --> 00:19:56,891
Seja lá o que tenha sido aquele almoço,
certamente estava delicioso.

345
00:19:56,934 --> 00:19:59,807
Simplesmente alguns
Sintéticos de Robby.

346
00:19:59,850 --> 00:20:01,635
Ele é seu cozinheiro também?

347
00:20:01,678 --> 00:20:04,551
Até fabrica
as matérias-primas.

348
00:20:04,594 --> 00:20:06,944
Venha aqui, Robby.

349
00:20:06,988 --> 00:20:09,773
Eu vou te mostrar
como isso funciona.

350
00:20:11,122 --> 00:20:13,342
Um apresenta
uma amostra de comida humana

351
00:20:13,386 --> 00:20:15,344
através desta abertura.

352
00:20:15,388 --> 00:20:17,738
Aqui embaixo há um pequeno
laboratório químico embutido,

353
00:20:17,781 --> 00:20:19,218
onde ele analisa.

354
00:20:19,261 --> 00:20:21,263
Mais tarde, ele pode reproduzir
moléculas idênticas

355
00:20:21,307 --> 00:20:22,482
em qualquer forma ou quantidade.

356
00:20:22,525 --> 00:20:24,614
Ora, é o sonho de uma dona de casa.

357
00:20:24,958 --> 00:20:26,834
Conheça Baxter,

358
00:20:26,877 --> 00:20:30,490
nova categoria revolucionária de robôs,
com bom senso.

359
00:20:30,533 --> 00:20:31,839
Baxter...

360
00:20:31,882 --> 00:20:33,449
Baxter é
um exemplo muito bom

361
00:20:33,493 --> 00:20:36,887
do tipo de competição
enfrentamos das máquinas.

362
00:20:36,931 --> 00:20:42,676
Baxter pode fazer quase tudo
podemos fazer com as nossas mãos.

363
00:20:42,719 --> 00:20:45,722
Baxter custa cerca de
que trabalhador de salário mínimo

364
00:20:45,766 --> 00:20:47,507
faz em um ano.

365
00:20:47,550 --> 00:20:50,318
Mas Baxter não ocupará o lugar
de um trabalhador com salário mínimo -

366
00:20:50,319 --> 00:20:51,930
Ele vai levar
o lugar de três,

367
00:20:51,931 --> 00:20:55,531
porque eles nunca se cansam,
eles nunca fazem pausas.

368
00:20:55,558 --> 00:20:57,865
Esse é provavelmente o
primeira coisa que veremos -

369
00:20:57,908 --> 00:20:59,475
deslocamento de empregos.

370
00:20:59,519 --> 00:21:04,088
Eles serão feitos mais rápido,
mais rápido e mais barato por máquinas.

371
00:21:04,132 --> 00:21:07,657
Nossa capacidade de nos mantermos atualizados
é tão insanamente limitado

372
00:21:07,701 --> 00:21:10,138
em comparação com
as máquinas que construímos.

373
00:21:10,181 --> 00:21:13,446
Por exemplo, agora temos este
grande movimento de Uber e Lyft

374
00:21:13,489 --> 00:21:16,505
meio que tornando o transporte mais barato
e democratizando o transporte,

375
00:21:16,506 --> 00:21:17,768
o que é ótimo.

376
00:21:17,769 --> 00:21:21,189
O próximo passo será que eles
tudo será substituído por carros sem motorista

377
00:21:21,192 --> 00:21:25,936
e depois todos os motoristas de Uber e Lyft
preciso encontrar algo novo para fazer.

378
00:21:25,980 --> 00:21:29,723
Existem 4 milhões de motoristas profissionais
nos Estados Unidos.

379
00:21:29,766 --> 00:21:31,638
Eles estarão desempregados em breve.

380
00:21:31,681 --> 00:21:34,075
7 milhões de pessoas que fazem entrada de dados.

381
00:21:34,118 --> 00:21:37,339
Essas pessoas vão ficar desempregadas.

382
00:21:37,383 --> 00:21:40,342
Um trabalho não envolve apenas dinheiro, certo?

383
00:21:40,386 --> 00:21:42,605
A nível biológico,
serve a um propósito.

384
00:21:42,649 --> 00:21:45,391
Torna-se uma coisa definidora.

385
00:21:45,434 --> 00:21:48,350
Quando os empregos foram embora
em qualquer civilização,

386
00:21:48,394 --> 00:21:50,987
não demora muito
até que isso se transforme em violência.

387
00:21:59,622 --> 00:22:02,016
Enfrentamos uma divisão gigante
entre ricos e pobres,

388
00:22:02,059 --> 00:22:05,019
porque é isso que a automação
e a IA irá provocar -

389
00:22:05,062 --> 00:22:08,588
uma divisão maior entre
os que têm e os que não têm.

390
00:22:08,631 --> 00:22:10,807
No momento, está funcionando
para a classe média,

391
00:22:10,851 --> 00:22:12,896
em empregos de colarinho branco.

392
00:22:12,940 --> 00:22:15,334
O Watson da IBM faz
análise de negócios

393
00:22:15,377 --> 00:22:20,600
que costumávamos pagar a um analista de negócios
US$ 300 por hora para fazer.

394
00:22:20,643 --> 00:22:23,037
Hoje você vai
para a faculdade para ser médico,

395
00:22:23,080 --> 00:22:25,082
ser contador,
ser jornalista.

396
00:22:25,126 --> 00:22:28,608
Não está claro se há
haverá empregos lá para você.

397
00:22:28,651 --> 00:22:32,612
Se alguém está planejando
uma carreira de 40 anos em radiologia,

398
00:22:32,655 --> 00:22:34,222
apenas lendo imagens,

399
00:22:34,265 --> 00:22:37,120
Acho que isso pode ser um desafio
aos novos graduados de hoje.

400
00:22:58,507 --> 00:23:02,729
O robô da Vinci é atualmente utilizado

401
00:23:02,772 --> 00:23:07,516
por vários cirurgiões
pela sua precisão e pela sua capacidade

402
00:23:07,560 --> 00:23:12,303
para evitar o inevitável
flutuações da mão humana.

403
00:23:23,402 --> 00:23:28,494
Qualquer um que assistir isso
sente a maravilha disso.

404
00:23:30,931 --> 00:23:34,674
Você olha através do escopo,
e você está vendo a mão em garra

405
00:23:34,717 --> 00:23:36,893
segurando o ovário daquela mulher.

406
00:23:36,937 --> 00:23:42,638
A humanidade estava descansando aqui
nas mãos deste robô.

407
00:23:42,682 --> 00:23:46,947
As pessoas dizem que é o futuro,
mas não é o futuro -

408
00:23:46,990 --> 00:23:50,516
É o presente.

409
00:23:50,559 --> 00:23:52,474
Se você pensar sobre
um robô cirúrgico,

410
00:23:52,475 --> 00:23:54,894
muitas vezes não há muito
de inteligência nessas coisas,

411
00:23:54,895 --> 00:23:58,567
mas com o tempo, à medida que colocamos mais e mais
inteligência nesses sistemas,

412
00:23:58,611 --> 00:24:02,281
os robôs cirúrgicos podem realmente
aprenda com cada cirurgia robótica.

413
00:24:02,284 --> 00:24:04,581
Eles estão rastreando os movimentos,
eles estão entendendo

414
00:24:04,582 --> 00:24:06,423
o que funcionou
e o que não funcionou.

415
00:24:06,424 --> 00:24:09,023
E eventualmente, o robô
para cirurgias de rotina

416
00:24:09,024 --> 00:24:12,362
será capaz de realizar
isso por si só...

417
00:24:12,363 --> 00:24:14,056
ou com supervisão humana.

418
00:24:35,038 --> 00:24:37,214
Parece que estamos
alimentando-o e criando-o,

419
00:24:37,258 --> 00:24:42,785
mas, de certa forma, somos escravos
para a tecnologia,

420
00:24:42,829 --> 00:24:45,701
porque não podemos voltar.

421
00:24:50,053 --> 00:24:52,882
As máquinas estão tomando
mordidas cada vez maiores

422
00:24:52,926 --> 00:24:57,147
fora do nosso conjunto de habilidades
numa velocidade cada vez maior.

423
00:24:57,191 --> 00:24:59,236
E então temos que correr
cada vez mais rápido

424
00:24:59,280 --> 00:25:00,890
para se manter à frente das máquinas.

425
00:25:02,675 --> 00:25:04,677
Como estou?

426
00:25:04,720 --> 00:25:06,374
Bom.

427
00:25:10,030 --> 00:25:11,553
Você está atraído por mim?

428
00:25:11,597 --> 00:25:14,251
O que?
- Você está atraído por mim?

429
00:25:14,295 --> 00:25:17,777
Você me dá indicações
que você é.

430
00:25:17,820 --> 00:25:20,562
Eu faço?
- Sim.

431
00:25:20,606 --> 00:25:22,608
Este é o futuro para o qual estamos caminhando.

432
00:25:22,651 --> 00:25:26,046
Queremos projetar
nossos companheiros.

433
00:25:26,089 --> 00:25:29,266
Nós vamos gostar de ver
um rosto humano na IA.

434
00:25:29,310 --> 00:25:33,967
Portanto, jogando nossas emoções
será deprimentemente fácil.

435
00:25:34,010 --> 00:25:35,272
Não somos tão complicados.

436
00:25:35,316 --> 00:25:38,101
Somos simples.
Resposta ao estímulo.

437
00:25:38,145 --> 00:25:42,763
Eu posso fazer você gostar de mim basicamente
sorrindo muito para você.

438
00:25:43,106 --> 00:25:45,974
IAs serão fantásticas
em nos manipular.

439
00:25:54,683 --> 00:25:56,946
Então, você desenvolveu uma tecnologia

440
00:25:56,990 --> 00:26:00,036
que pode sentir
o que as pessoas estão sentindo.

441
00:26:00,080 --> 00:26:03,387
Certo. Desenvolvemos tecnologia
que pode ler suas expressões faciais

442
00:26:03,431 --> 00:26:06,521
e mapeie isso para um número
de estados emocionais.

443
00:26:06,565 --> 00:26:08,697
15 anos atrás,
eu tinha acabado de terminar

444
00:26:08,741 --> 00:26:11,482
meus estudos de graduação
em ciência da computação,

445
00:26:11,526 --> 00:26:15,008
e me ocorreu que eu estava
gastando muito tempo

446
00:26:15,051 --> 00:26:17,793
interagindo com meus laptops
e meus dispositivos,

447
00:26:17,837 --> 00:26:23,582
ainda assim, esses dispositivos tinham absolutamente
nenhuma ideia de como eu estava me sentindo.

448
00:26:23,625 --> 00:26:26,802
Comecei a pensar,
"E se este dispositivo pudesse detectar

449
00:26:26,846 --> 00:26:29,326
que eu estava estressado
ou eu estava tendo um dia ruim?

450
00:26:29,370 --> 00:26:31,067
O que isso abriria?"

451
00:26:32,721 --> 00:26:34,418
Olá, alunos da primeira série!

452
00:26:34,462 --> 00:26:35,855
Como vai você?

453
00:26:35,898 --> 00:26:37,813
Posso receber um abraço?

454
00:26:37,857 --> 00:26:40,773
Tivemos crianças interagindo
com a tecnologia.

455
00:26:40,816 --> 00:26:44,472
Muito disso ainda está em desenvolvimento,
mas foi simplesmente incrível.

456
00:26:44,515 --> 00:26:46,648
Quem gosta de robôs?
- Meu!

457
00:26:46,692 --> 00:26:48,911
Quem quer ter um robô
na casa deles?

458
00:26:48,955 --> 00:26:51,479
O que você usaria
um robô para, Jack?

459
00:26:51,522 --> 00:26:56,353
Eu usaria para perguntar à minha mãe
questões de matemática muito difíceis.

460
00:26:56,397 --> 00:26:58,181
OK.
E você, Theo?

461
00:26:58,225 --> 00:27:02,272
eu usaria isso
por assustar as pessoas.

462
00:27:02,316 --> 00:27:04,666
Tudo bem.
Então, comece sorrindo.

463
00:27:04,710 --> 00:27:06,625
Legal.

464
00:27:06,668 --> 00:27:09,018
Sulco na testa.

465
00:27:09,062 --> 00:27:10,890
Agradável.
Levantamento de sobrancelha.

466
00:27:10,933 --> 00:27:15,068
Nesta geração, a tecnologia é apenas
cercando-os o tempo todo.

467
00:27:15,111 --> 00:27:17,853
É quase como eles esperam
ter robôs em suas casas,

468
00:27:17,897 --> 00:27:22,336
e eles esperam que esses robôs
ser socialmente inteligente.

469
00:27:22,379 --> 00:27:25,252
O que torna os robôs inteligentes?

470
00:27:25,295 --> 00:27:29,648
Coloque-os em, tipo, uma matemática
ou aula de biologia.

471
00:27:29,691 --> 00:27:32,259
Eu acho que você faria
tem que treiná-lo.

472
00:27:32,302 --> 00:27:35,218
Tudo bem.
Vamos caminhar até aqui.

473
00:27:35,262 --> 00:27:37,394
Então, se você sorrir e você
levante as sobrancelhas,

474
00:27:37,438 --> 00:27:39,005
vai correr para você.

475
00:27:39,048 --> 00:27:40,833
Está chegando!
Está chegando! Olhar.

476
00:27:43,183 --> 00:27:45,272
Mas se você parecer zangado,
isso vai fugir.

477
00:27:46,534 --> 00:27:48,797
-Incrível!
-Ah, isso foi bom.

478
00:27:48,841 --> 00:27:52,366
Estamos treinando computadores para ler
e reconhecer emoções.

479
00:27:52,409 --> 00:27:53,846
Preparar? Definir? Ir!

480
00:27:53,889 --> 00:27:57,414
E a resposta até agora
tem sido realmente incrível.

481
00:27:57,458 --> 00:27:59,590
As pessoas estão integrando isso
em aplicativos de saúde,

482
00:27:59,634 --> 00:28:03,865
aplicativos de meditação, robôs, carros.

483
00:28:04,508 --> 00:28:06,728
Nós vamos ver
como isso se desenrola.

484
00:28:09,470 --> 00:28:11,602
Os robôs podem conter IA,

485
00:28:11,646 --> 00:28:14,388
mas o robô é apenas
uma instanciação física,

486
00:28:14,431 --> 00:28:16,782
e a inteligência artificial
é o cérebro.

487
00:28:16,825 --> 00:28:19,872
E assim os cérebros podem existir puramente
em sistemas baseados em software.

488
00:28:19,915 --> 00:28:22,483
Eles não precisam ter
uma forma física.

489
00:28:22,526 --> 00:28:25,094
Os robôs podem existir sem
qualquer inteligência artificial.

490
00:28:25,138 --> 00:28:28,097
Nós temos muito
robôs idiotas por aí.

491
00:28:28,141 --> 00:28:31,753
Mas um robô burro pode ser
um robô inteligente durante a noite,

492
00:28:31,797 --> 00:28:34,103
dado o software certo,
dados os sensores certos.

493
00:28:34,147 --> 00:28:38,629
Não podemos deixar de imputar
motivo em objetos inanimados.

494
00:28:38,673 --> 00:28:41,502
Fazemos isso com máquinas.
Vamos tratá-los como crianças.

495
00:28:41,545 --> 00:28:43,330
Vamos tratá-los como substitutos.

496
00:28:43,373 --> 00:28:45,027
Adeus!

497
00:28:45,071 --> 00:28:48,204
E pagaremos o preço.

498
00:29:08,616 --> 00:29:10,792
Ok, bem-vindo ao ATR.

499
00:29:18,000 --> 00:29:20,800
Meu propósito é ter
um robô mais humano

500
00:29:20,801 --> 00:29:24,001
que tem aparência humana
intenções e desejos.

501
00:29:36,000 --> 00:29:38,400
O nome do robô é Erica.

502
00:29:39,501 --> 00:29:43,901
Erica é a mais avançada
robô humanoide do mundo, eu acho.

503
00:29:44,202 --> 00:29:47,202
Erica pode olhar para seu rosto.

504
00:29:51,528 --> 00:29:52,791
Konnichiwa.

505
00:29:53,592 --> 00:29:57,092
Robôs podem ser muito bons
como parceiros de conversa,

506
00:29:57,093 --> 00:30:00,493
especialmente para os idosos
e crianças mais novas,

507
00:30:00,494 --> 00:30:02,494
pessoas com deficiência.

508
00:30:03,094 --> 00:30:06,294
Quando falamos com o robô
não tememos as barreiras sociais,

509
00:30:06,295 --> 00:30:08,095
pressões sociais.

510
00:30:08,396 --> 00:30:15,796
Finalmente todo mundo aceita o android
apenas como nosso amigo ou parceiro.

511
00:30:15,997 --> 00:30:18,997
Implementamos desejos simples.

512
00:30:18,998 --> 00:30:22,798
Ela queria ser bem reconhecida
e ela queria ir descansar.

513
00:30:29,299 --> 00:30:32,299
Se um robô pudesse ter
intenções e desejos,

514
00:30:32,300 --> 00:30:36,300
o robô pode entender o de outras pessoas
intenções e desejos.

515
00:30:44,300 --> 00:30:47,100
Isso está ligado
relacionamentos com pessoas

516
00:30:47,101 --> 00:30:49,201
e isso significa
eles gostam um do outro.

517
00:30:50,302 --> 00:30:53,302
Isso significa, bem, não tenho certeza,
para esfregar um ao outro.

518
00:30:56,985 --> 00:30:58,682
Construímos inteligência artificial,

519
00:30:58,726 --> 00:31:01,948
e a primeira coisa
queremos fazer é nos replicar.

520
00:31:02,991 --> 00:31:05,341
Acho que o ponto chave virá

521
00:31:05,385 --> 00:31:08,858
quando todos os principais sentidos
são replicados.

522
00:31:09,302 --> 00:31:11,130
Vista...

523
00:31:11,173 --> 00:31:12,871
toque...

524
00:31:12,914 --> 00:31:14,611
cheiro.

525
00:31:14,655 --> 00:31:17,919
Quando replicamos nossos sentidos,
é quando ele ganha vida?

526
00:31:27,624 --> 00:31:31,019
Muitas de nossas máquinas
estão sendo construídos para nos entender.

527
00:31:32,847 --> 00:31:35,005
Mas o que acontece quando
uma criatura antropomórfica

528
00:31:35,006 --> 00:31:37,474
descobre que eles podem
ajustar sua lealdade,

529
00:31:37,475 --> 00:31:40,043
ajuste sua coragem,
ajuste sua avareza,

530
00:31:40,072 --> 00:31:42,291
ajustar sua astúcia?

531
00:31:44,859 --> 00:31:48,645
A pessoa comum, eles não veem
robôs assassinos andando pelas ruas.

532
00:31:48,689 --> 00:31:50,996
Eles são tipo,
"Do que você está falando?"

533
00:31:51,039 --> 00:31:56,245
Cara, queremos ter certeza de que não
tem robôs assassinos descendo a rua.

534
00:31:57,089 --> 00:31:59,439
Uma vez que eles estão caindo
na rua, é tarde demais.

535
00:32:05,053 --> 00:32:08,578
O que me preocupa agora,
isso me mantém acordado,

536
00:32:08,622 --> 00:32:11,842
é o desenvolvimento
de armas autônomas.

537
00:32:27,815 --> 00:32:32,733
Até agora, as pessoas expressaram
desconforto com drones,

538
00:32:32,776 --> 00:32:35,127
que são remotamente
aeronave pilotada.

539
00:32:39,827 --> 00:32:43,309
Se você pegar a câmera de um drone
e alimentá-lo no sistema de IA,

540
00:32:43,352 --> 00:32:47,443
é um passo muito fácil a partir daqui
para armas totalmente autônomas

541
00:32:47,487 --> 00:32:50,881
que escolhem seus próprios alvos
e lançar seus próprios mísseis.

542
00:33:12,729 --> 00:33:15,080
A expectativa de vida
de um ser humano

543
00:33:15,123 --> 00:33:19,420
nesse tipo de ambiente de batalha
seria medido em segundos.

544
00:33:20,563 --> 00:33:23,740
A certa altura,
drones eram ficção científica,

545
00:33:23,784 --> 00:33:28,832
e agora eles se tornaram
a coisa normal na guerra.

546
00:33:28,876 --> 00:33:33,402
Há mais de 10.000 em
Apenas o inventário militar dos EUA.

547
00:33:33,446 --> 00:33:35,274
Mas eles não são
apenas um fenômeno dos EUA.

548
00:33:35,317 --> 00:33:39,060
Existem mais de 80 países
que os operam.

549
00:33:39,104 --> 00:33:41,932
É lógico
que as pessoas fazem alguns

550
00:33:41,976 --> 00:33:44,587
dos mais importantes e
decisões difíceis no mundo

551
00:33:44,631 --> 00:33:46,328
vamos começar a usar
e implementar

552
00:33:46,372 --> 00:33:48,591
inteligência artificial.

553
00:33:50,767 --> 00:33:53,596
A Força Aérea acaba de projetar
um programa de jatos de US$ 400 bilhões

554
00:33:53,640 --> 00:33:55,555
para colocar pilotos no céu,

555
00:33:55,598 --> 00:34:01,300
e uma IA de US$ 500, projetada por
alguns estudantes de pós-graduação,

556
00:34:01,343 --> 00:34:03,432
está vencendo os melhores pilotos humanos

557
00:34:03,476 --> 00:34:05,782
com um relativamente
algoritmo simples.

558
00:34:09,438 --> 00:34:13,399
A IA terá um impacto tão grande
sobre os militares

559
00:34:13,442 --> 00:34:17,490
como o motor de combustão
teve na virada do século.

560
00:34:17,533 --> 00:34:21,233
Irá literalmente tocar em tudo
que os militares fazem,

561
00:34:21,276 --> 00:34:25,324
de comboios sem motorista
entrega de suprimentos logísticos,

562
00:34:25,367 --> 00:34:27,021
para drones não tripulados

563
00:34:27,065 --> 00:34:30,764
entrega de ajuda médica,
à propaganda computacional,

564
00:34:30,807 --> 00:34:34,246
tentando conquistar os corações
e mentes de uma população.

565
00:34:34,289 --> 00:34:38,337
E então é lógico
que quem tiver a melhor IA

566
00:34:38,380 --> 00:34:41,688
provavelmente alcançará
domínio neste planeta.

567
00:34:45,561 --> 00:34:47,650
Em algum momento
o início do século 21,

568
00:34:47,694 --> 00:34:51,219
toda a humanidade foi
unidos em celebração.

569
00:34:51,263 --> 00:34:53,830
Nós ficamos maravilhados
em nossa própria magnificência

570
00:34:53,874 --> 00:34:56,833
quando demos à luz a IA.

571
00:34:56,877 --> 00:34:58,966
IA?

572
00:34:59,009 --> 00:35:00,489
Você quer dizer
inteligência artificial?

573
00:35:00,533 --> 00:35:01,751
Uma consciência singular

574
00:35:01,795 --> 00:35:05,886
que gerou
toda uma raça de máquinas.

575
00:35:05,929 --> 00:35:09,716
Nós não sabemos
quem atacou primeiro - nós ou eles,

576
00:35:09,759 --> 00:35:12,980
mas sabemos que fomos nós
que queimou o céu.

577
00:35:14,677 --> 00:35:16,766
Há uma longa história
de ficção científica,

578
00:35:16,810 --> 00:35:19,987
não apenas prever o futuro,
mas moldando o futuro.

579
00:35:26,863 --> 00:35:30,389
Arthur Conan Doyle
escrevendo antes da Primeira Guerra Mundial

580
00:35:30,432 --> 00:35:34,393
sobre o perigo de como
submarinos podem ser usados

581
00:35:34,436 --> 00:35:38,048
para realizar bloqueios civis.

582
00:35:38,092 --> 00:35:40,399
Na época
ele está escrevendo esta ficção,

583
00:35:40,442 --> 00:35:43,402
a Marinha Real zombou
de Arthur Conan Doyle

584
00:35:43,445 --> 00:35:45,230
por essa ideia absurda

585
00:35:45,273 --> 00:35:47,623
que submarinos
poderia ser útil na guerra.

586
00:35:53,455 --> 00:35:55,370
Uma das coisas
vimos na história

587
00:35:55,414 --> 00:35:58,243
é que a nossa atitude
em direção à tecnologia,

588
00:35:58,286 --> 00:36:01,942
mas também ética,
são muito dependentes do contexto.

589
00:36:01,985 --> 00:36:03,726
Por exemplo, o submarino...

590
00:36:03,770 --> 00:36:06,468
nações como a Grã-Bretanha
e até mesmo os Estados Unidos

591
00:36:06,512 --> 00:36:09,863
achei horrível
para usar o submarino.

592
00:36:09,906 --> 00:36:13,214
Na verdade, o uso alemão do
submarino para realizar ataques

593
00:36:13,258 --> 00:36:18,480
foi a razão pela qual os Estados Unidos
Os estados aderiram à Primeira Guerra Mundial.

594
00:36:18,524 --> 00:36:20,613
Mas avance a linha do tempo.

595
00:36:20,656 --> 00:36:23,529
Os Estados Unidos
da América foi subitamente

596
00:36:23,572 --> 00:36:28,403
e atacou deliberadamente
pelo império do Japão.

597
00:36:28,447 --> 00:36:32,190
Cinco horas depois de Pearl Harbor,
a ordem sai

598
00:36:32,233 --> 00:36:36,498
cometer sem restrições
guerra submarina contra o Japão.

599
00:36:39,936 --> 00:36:43,589
Então Arthur Conan Doyle
acabou por estar certo.

600
00:36:44,332 --> 00:36:46,856
Essa é a grande e velha frase
sobre ficção científica -

601
00:36:46,900 --> 00:36:48,336
É uma mentira que diz a verdade.

602
00:36:48,380 --> 00:36:51,470
Colegas executivos,
isso me dá muito prazer

603
00:36:51,513 --> 00:36:54,821
para apresentá-lo ao futuro
da aplicação da lei...

604
00:36:54,864 --> 00:36:56,562
ED-209.

605
00:37:03,656 --> 00:37:05,919
Esta não é apenas uma pergunta
de ficção científica.

606
00:37:05,962 --> 00:37:09,488
Isto é sobre o que vem a seguir,
sobre o que está acontecendo agora.

607
00:37:13,970 --> 00:37:19,324
O papel dos sistemas inteligentes é
crescendo muito rapidamente na guerra.

608
00:37:19,367 --> 00:37:22,152
Todo mundo está empurrando
no reino não tripulado.

609
00:37:26,418 --> 00:37:28,898
Hoje, o Secretário de Defesa
é muito, muito claro -

610
00:37:28,942 --> 00:37:32,337
Não criaremos totalmente
veículos de ataque autônomos.

611
00:37:32,380 --> 00:37:34,643
Nem todo mundo
vai se segurar

612
00:37:34,687 --> 00:37:36,515
para esse mesmo conjunto de valores.

613
00:37:36,558 --> 00:37:40,693
E quando a China e a Rússia começarem
implantação de veículos autônomos

614
00:37:40,736 --> 00:37:45,611
que pode atacar e matar, o que é
o movimento que vamos fazer?

615
00:37:50,006 --> 00:37:51,617
Você não pode dizer,
"Bem, vamos usar

616
00:37:51,660 --> 00:37:53,967
armas autônomas
pelo nosso domínio militar,

617
00:37:54,010 --> 00:37:56,796
mas mais ninguém
vai usá-los."

618
00:37:56,839 --> 00:38:00,495
Se você fizer essas armas,
eles serão usados para atacar

619
00:38:00,539 --> 00:38:03,324
populações humanas
em grande número.

620
00:38:12,551 --> 00:38:14,596
Armas autônomas são,
pela sua natureza,

621
00:38:14,640 --> 00:38:16,468
armas de destruição em massa,

622
00:38:16,511 --> 00:38:19,862
porque não precisa de
ser humano para guiá-lo ou carregá-lo.

623
00:38:19,906 --> 00:38:22,517
Você só precisa de uma pessoa,
para, você sabe,

624
00:38:22,561 --> 00:38:25,781
escreva um pequeno programa.

625
00:38:25,825 --> 00:38:30,220
Ele apenas captura
a complexidade deste campo.

626
00:38:30,264 --> 00:38:32,571
Isso é legal.
É importante.

627
00:38:32,614 --> 00:38:34,573
É incrível.

628
00:38:34,616 --> 00:38:37,053
Também é assustador.

629
00:38:37,097 --> 00:38:38,968
E é tudo uma questão de confiança.

630
00:38:42,102 --> 00:38:44,583
É uma carta aberta sobre
inteligência artificial,

631
00:38:44,626 --> 00:38:47,063
assinado por alguns
os maiores nomes da ciência.

632
00:38:47,107 --> 00:38:48,413
O que eles querem?

633
00:38:48,456 --> 00:38:50,763
Proibir o uso de
armas autônomas.

634
00:38:50,806 --> 00:38:52,373
O autor afirmou,

635
00:38:52,417 --> 00:38:54,375
“Armas autônomas
foram descritos

636
00:38:54,419 --> 00:38:56,595
como a terceira revolução
na guerra."

637
00:38:56,638 --> 00:38:58,853
... mil
especialistas em inteligência artificial

638
00:38:58,855 --> 00:39:01,875
pedindo uma proibição global
em robôs assassinos.

639
00:39:01,876 --> 00:39:04,357
Esta carta aberta basicamente diz

640
00:39:04,385 --> 00:39:07,954
que devemos redefinir o objetivo
da área de inteligência artificial

641
00:39:07,997 --> 00:39:11,610
longe de apenas criar puro,
inteligência não direcionada,

642
00:39:11,653 --> 00:39:13,655
para criar
inteligência benéfica.

643
00:39:13,699 --> 00:39:16,092
O desenvolvimento da IA
não vai parar.

644
00:39:16,136 --> 00:39:18,094
Isso vai continuar
e melhorar.

645
00:39:18,138 --> 00:39:19,835
Se a comunidade internacional

646
00:39:19,879 --> 00:39:21,968
não está colocando
certos controles sobre isso,

647
00:39:22,011 --> 00:39:24,666
as pessoas desenvolverão coisas
isso pode fazer qualquer coisa.

648
00:39:24,710 --> 00:39:27,365
A carta diz
que somos anos, não décadas,

649
00:39:27,408 --> 00:39:30,106
longe dessas armas sendo implantadas.
Então, antes de tudo...

650
00:39:30,150 --> 00:39:32,413
Tivemos 6.000 signatários
daquela carta,

651
00:39:32,457 --> 00:39:35,155
incluindo muitos dos
as principais figuras da área.

652
00:39:37,026 --> 00:39:39,942
Estou recebendo muitas visitas
de altos funcionários

653
00:39:39,986 --> 00:39:42,989
que desejam enfatizar que
Domínio militar americano

654
00:39:43,032 --> 00:39:45,731
é muito importante,
e armas autônomas

655
00:39:45,774 --> 00:39:50,083
pode fazer parte
o plano do Departamento de Defesa.

656
00:39:50,126 --> 00:39:52,433
Isso é muito, muito assustador,
porque um sistema de valores

657
00:39:52,477 --> 00:39:54,479
de desenvolvedores militares
de tecnologia

658
00:39:54,522 --> 00:39:57,307
não é o mesmo que um sistema de valores
da raça humana.

659
00:40:00,789 --> 00:40:02,922
Fora das preocupações
sobre a possibilidade

660
00:40:02,965 --> 00:40:06,665
que esta tecnologia possa ser
uma ameaça à existência humana,

661
00:40:06,708 --> 00:40:08,144
vários tecnólogos

662
00:40:08,188 --> 00:40:09,972
financiaram
o Instituto Futuro da Vida

663
00:40:10,016 --> 00:40:12,192
para tentar agarrar
com esses problemas.

664
00:40:13,193 --> 00:40:14,847
Todos esses caras são reservados,

665
00:40:14,890 --> 00:40:16,805
e então é interessante
para mim vê-los,

666
00:40:16,849 --> 00:40:19,735
você sabe, todos juntos.

667
00:40:20,679 --> 00:40:24,030
Tudo o que temos é resultado
da nossa inteligência.

668
00:40:24,073 --> 00:40:26,641
Não é o resultado
dos nossos dentes grandes e assustadores

669
00:40:26,685 --> 00:40:29,470
ou nossas grandes garras
ou nossos enormes músculos.

670
00:40:29,514 --> 00:40:32,473
É porque na verdade estamos
relativamente inteligente.

671
00:40:32,517 --> 00:40:35,520
E entre a minha geração,
todos nós estamos tendo

672
00:40:35,563 --> 00:40:37,086
o que chamamos de "vaca sagrada",

673
00:40:37,130 --> 00:40:39,045
ou "santo, outra coisa"
momentos,

674
00:40:39,088 --> 00:40:41,003
porque vemos
que a tecnologia

675
00:40:41,047 --> 00:40:44,180
está acelerando mais rápido
do que esperávamos.

676
00:40:44,224 --> 00:40:46,705
Eu me lembro de sentar
em volta da mesa ali

677
00:40:46,748 --> 00:40:50,099
com alguns dos melhores e
as mentes mais inteligentes do mundo,

678
00:40:50,143 --> 00:40:52,058
e o que realmente
me impressionou foi,

679
00:40:52,101 --> 00:40:56,149
talvez o cérebro humano
não é capaz de compreender completamente

680
00:40:56,192 --> 00:40:58,673
a complexidade do mundo
que somos confrontados.

681
00:40:58,717 --> 00:41:01,415
Como está atualmente construído,

682
00:41:01,459 --> 00:41:04,766
o caminho que a IA está seguindo
cai de um penhasco,

683
00:41:04,810 --> 00:41:07,595
e precisamos mudar
a direção que estamos indo

684
00:41:07,639 --> 00:41:10,729
para que não levemos
a raça humana do penhasco.

685
00:41:13,558 --> 00:41:17,126
Google adquiriu DeepMind
há vários anos.

686
00:41:17,170 --> 00:41:22,088
DeepMind opera como um
subsidiária semi-independente do Google.

687
00:41:22,131 --> 00:41:24,960
A coisa que faz
DeepMind exclusivo

688
00:41:25,004 --> 00:41:26,919
é aquele DeepMind
está absolutamente focado

689
00:41:26,962 --> 00:41:30,313
na criação digital
superinteligência -

690
00:41:30,357 --> 00:41:34,056
uma IA muito mais inteligente
do que qualquer ser humano na Terra

691
00:41:34,100 --> 00:41:36,624
e, em última análise, mais inteligente do que
todos os humanos na Terra combinados.

692
00:41:36,668 --> 00:41:40,715
Isto é do DeepMind
sistema de aprendizagem por reforço.

693
00:41:40,759 --> 00:41:43,544
Basicamente acorda
como um bebê recém-nascido

694
00:41:43,588 --> 00:41:46,852
e é mostrada a tela
de um videogame Atari

695
00:41:46,895 --> 00:41:50,508
e então tem que aprender
para jogar videogame.

696
00:41:50,551 --> 00:41:55,600
Não sabe nada sobre objetos,
sobre movimento, sobre tempo.

697
00:41:57,602 --> 00:41:59,604
Só sabe que há
uma imagem na tela

698
00:41:59,647 --> 00:42:02,563
e há uma pontuação.

699
00:42:02,607 --> 00:42:06,436
Então, se o seu bebê acordou
o dia em que nasceu

700
00:42:06,480 --> 00:42:08,090
e, no final da tarde,

701
00:42:08,134 --> 00:42:11,093
estava jogando
40 videogames Atari diferentes

702
00:42:11,137 --> 00:42:15,315
em um nível sobre-humano,
você ficaria apavorado.

703
00:42:15,358 --> 00:42:19,101
Você diria,
"Meu bebê está possuído. Mande-o de volta."

704
00:42:19,145 --> 00:42:23,584
O sistema DeepMind
pode ganhar em qualquer jogo.

705
00:42:23,628 --> 00:42:27,588
Já pode vencer todos
os jogos originais da Atari.

706
00:42:27,632 --> 00:42:29,155
É sobre-humano.

707
00:42:29,198 --> 00:42:31,636
Ele joga em supervelocidade
em menos de um minuto.

708
00:42:37,076 --> 00:42:38,643
DeepMind virou
para outro desafio,

709
00:42:38,686 --> 00:42:40,558
e o desafio
foi o jogo de Go,

710
00:42:40,601 --> 00:42:42,603
quais pessoas
geralmente argumentaram

711
00:42:42,647 --> 00:42:45,084
foi além
o poder dos computadores

712
00:42:45,127 --> 00:42:48,304
brincar com
os melhores jogadores humanos de Go.

713
00:42:48,348 --> 00:42:51,264
Primeiro, eles desafiaram
um campeão europeu de Go.

714
00:42:53,222 --> 00:42:55,834
Então eles desafiaram
um campeão coreano Go.

715
00:42:55,877 --> 00:42:57,836
Por favor, inicie o jogo.

716
00:42:57,879 --> 00:42:59,838
E eles foram capazes
ganhar as duas vezes

717
00:42:59,881 --> 00:43:02,797
de uma forma marcante.

718
00:43:02,841 --> 00:43:05,017
Você estava lendo artigos
no New York Times anos atrás

719
00:43:05,060 --> 00:43:09,761
falando sobre como Go levaria
100 anos para resolvermos.

720
00:43:09,804 --> 00:43:13,460
As pessoas diziam: "Bem, você sabe,
mas isso ainda é apenas uma placa.

721
00:43:13,503 --> 00:43:15,027
O pôquer é uma arte.

722
00:43:15,070 --> 00:43:16,419
O pôquer envolve ler as pessoas.

723
00:43:16,463 --> 00:43:18,073
Poker envolve mentir
e blefando.

724
00:43:18,117 --> 00:43:19,553
Não é uma coisa exata.

725
00:43:19,597 --> 00:43:21,381
Isso nunca será,
você sabe, um computador.

726
00:43:21,424 --> 00:43:22,861
Você não pode fazer isso."

727
00:43:22,904 --> 00:43:24,932
Eles levaram o melhor
jogadores de pôquer do mundo,

728
00:43:25,176 --> 00:43:30,520
e demorou sete dias para o computador
para começar a demolir os humanos.

729
00:43:30,564 --> 00:43:32,461
Então é o melhor jogador de pôquer
no mundo,

730
00:43:32,462 --> 00:43:35,012
é o melhor jogador de Go do
mundo, e o padrão aqui

731
00:43:35,013 --> 00:43:37,454
é que a IA pode demorar um pouco

732
00:43:37,484 --> 00:43:40,443
para envolver seus tentáculos
em torno de uma nova habilidade,

733
00:43:40,487 --> 00:43:44,883
mas quando isso acontece, quando isso
entende, é imparável.

734
00:43:52,020 --> 00:43:55,110
A IA da DeepMind tem
acesso em nível de administrador

735
00:43:55,154 --> 00:43:57,156
para os servidores do Google

736
00:43:57,199 --> 00:44:00,768
para otimizar o uso de energia
nos data centers.

737
00:44:00,812 --> 00:44:04,816
No entanto, isso poderia ser
um cavalo de Tróia não intencional.

738
00:44:04,859 --> 00:44:07,253
DeepMind deve ter completo
controle dos data centers,

739
00:44:07,296 --> 00:44:08,950
então com um pouco
atualização de software,

740
00:44:08,994 --> 00:44:10,691
que a IA poderia levar
controle completo

741
00:44:10,735 --> 00:44:12,214
de todo o sistema do Google,

742
00:44:12,258 --> 00:44:13,607
o que significa
eles podem fazer qualquer coisa.

743
00:44:13,651 --> 00:44:16,131
Eles poderiam examinar todos os seus dados.
Eles poderiam fazer qualquer coisa.

744
00:44:20,135 --> 00:44:23,051
Estamos caminhando rapidamente para
superinteligência digital

745
00:44:23,095 --> 00:44:24,313
que excede em muito qualquer ser humano.

746
00:44:24,357 --> 00:44:26,402
Eu acho que é muito óbvio.

747
00:44:26,446 --> 00:44:29,710
O problema é que não vamos
de repente atingiu a inteligência de nível humano

748
00:44:29,754 --> 00:44:33,105
e dizer,
"Ok, vamos parar de pesquisar."

749
00:44:33,148 --> 00:44:35,015
Vai além
inteligência de nível humano

750
00:44:35,016 --> 00:44:39,459
no que é chamado de "superinteligência",
e isso é algo mais inteligente do que nós.

751
00:44:39,502 --> 00:44:42,810
IA em nível sobre-humano,
se tivermos sucesso nisso, será

752
00:44:42,854 --> 00:44:46,553
de longe o mais poderoso
invenção que já fizemos

753
00:44:46,596 --> 00:44:50,296
e a última invenção
alguma vez teremos que fazer.

754
00:44:50,339 --> 00:44:53,168
E se criarmos IA
isso é mais inteligente do que nós,

755
00:44:53,212 --> 00:44:54,735
temos que estar abertos
para a possibilidade

756
00:44:54,779 --> 00:44:57,520
que poderíamos realmente
perder o controle para eles.

757
00:45:00,785 --> 00:45:02,612
Digamos
você dá algum objetivo,

758
00:45:02,656 --> 00:45:04,745
como curar o câncer,
e então você descobre

759
00:45:04,789 --> 00:45:06,965
esse caminho
ele escolhe fazer isso

760
00:45:07,008 --> 00:45:08,444
está realmente em conflito

761
00:45:08,488 --> 00:45:11,705
com muitas outras coisas
você se preocupa.

762
00:45:12,448 --> 00:45:16,496
IA não precisa ser má
para destruir a humanidade.

763
00:45:16,539 --> 00:45:20,674
Se a IA tem um objetivo e a humanidade
acontece que está no caminho,

764
00:45:20,718 --> 00:45:22,894
isso destruirá a humanidade
como é natural,

765
00:45:22,937 --> 00:45:25,113
sem sequer pensar nisso.
Sem ressentimentos.

766
00:45:25,157 --> 00:45:27,072
É como
se estamos construindo uma estrada

767
00:45:27,115 --> 00:45:29,770
e um formigueiro acontece
estar no caminho...

768
00:45:29,814 --> 00:45:31,467
Nós não odiamos formigas.

769
00:45:31,511 --> 00:45:33,165
Estamos apenas construindo uma estrada.

770
00:45:33,208 --> 00:45:34,857
E então adeus, formigueiro.

771
00:45:37,996 --> 00:45:40,172
É tentador
para descartar essas preocupações,

772
00:45:40,215 --> 00:45:42,783
porque é, tipo,
algo que pode acontecer

773
00:45:42,827 --> 00:45:47,396
em algumas décadas ou 100 anos,
então por que se preocupar?

774
00:45:47,440 --> 00:45:50,704
Mas se você voltar
a 11 de setembro de 1933,

775
00:45:50,748 --> 00:45:54,795
Ernest Rutherford, que foi o mais
conhecido físico nuclear de sua época,

776
00:45:54,839 --> 00:45:58,668
disse que a possibilidade de alguma vez
extraindo quantidades úteis de energia

777
00:45:58,712 --> 00:46:00,801
da transmutação
de átomos, como ele chamou,

778
00:46:00,845 --> 00:46:03,151
era luar.

779
00:46:03,195 --> 00:46:06,502
Na manhã seguinte, Leo Szilard,
que era um físico muito mais jovem,

780
00:46:06,546 --> 00:46:09,984
li isso e fiquei muito irritado
e descobri

781
00:46:10,028 --> 00:46:11,943
como fazer
uma reação nuclear em cadeia

782
00:46:11,986 --> 00:46:13,379
apenas alguns meses depois.

783
00:46:20,603 --> 00:46:23,693
Gastamos mais
de US$ 2 bilhões

784
00:46:23,737 --> 00:46:27,523
no maior
aposta científica na história.

785
00:46:27,567 --> 00:46:30,222
Então, quando as pessoas dizem isso,
"Oh, isso está tão longe

786
00:46:30,265 --> 00:46:32,528
no futuro, não temos
se preocupar com isso",

787
00:46:32,572 --> 00:46:36,271
podem ser apenas três, quatro
avanços dessa magnitude

788
00:46:36,315 --> 00:46:40,275
isso nos tirará daqui
para máquinas superinteligentes.

789
00:46:40,319 --> 00:46:42,974
Se isso vai demorar
20 anos para descobrir

790
00:46:43,017 --> 00:46:45,237
como manter a IA benéfica,

791
00:46:45,280 --> 00:46:48,849
então deveríamos começar hoje,
não no último segundo

792
00:46:48,893 --> 00:46:51,460
quando alguns caras
bebendo Red Bull

793
00:46:51,504 --> 00:46:53,832
decidir virar o interruptor
e teste a coisa.

794
00:46:56,814 --> 00:46:58,859
Temos cinco anos.

795
00:46:58,903 --> 00:47:03,764
Eu acho que a superinteligência digital
acontecerá durante minha vida.

796
00:47:03,908 --> 00:47:05,735
100%.

797
00:47:05,779 --> 00:47:07,215
Quando isso acontecer,

798
00:47:07,259 --> 00:47:09,696
ele estará cercado
por um monte de gente

799
00:47:09,739 --> 00:47:13,091
que estão realmente entusiasmados
sobre a tecnologia.

800
00:47:13,134 --> 00:47:15,571
Eles querem ver o sucesso,
mas eles não estão antecipando

801
00:47:15,615 --> 00:47:16,964
que pode ficar fora de controle.

802
00:47:25,494 --> 00:47:28,584
Oh, meu Deus, eu confio
meu computador tanto.

803
00:47:28,628 --> 00:47:30,195
Essa é uma pergunta incrível.

804
00:47:30,238 --> 00:47:31,457
eu não confio
meu computador.

805
00:47:31,500 --> 00:47:32,937
Se estiver ligado,
Eu tiro isso.

806
00:47:32,980 --> 00:47:34,242
Tipo, mesmo quando está desligado,

807
00:47:34,286 --> 00:47:35,896
Eu ainda acho que está ligado.
Tipo, você sabe?

808
00:47:35,897 --> 00:47:37,694
Tipo, você realmente não pode verdade--
Tipo, as webcams,

809
00:47:37,695 --> 00:47:39,625
você não sabe se, tipo,
alguém pode virar isso...

810
00:47:39,639 --> 00:47:41,249
Você não sabe, tipo.

811
00:47:41,293 --> 00:47:42,903
Não confio no meu computador.

812
00:47:42,947 --> 00:47:46,907
Tipo, no meu telefone,
toda vez que eles me perguntam

813
00:47:46,951 --> 00:47:49,475
"Podemos enviar o seu
informações para a Apple?"

814
00:47:49,518 --> 00:47:50,998
toda vez, eu...

815
00:47:51,042 --> 00:47:53,087
Então, não confio no meu telefone.

816
00:47:53,131 --> 00:47:56,743
OK. Então, parte disso é,
sim, eu confio nisso,

817
00:47:56,786 --> 00:48:00,660
porque seria realmente
difícil passar o dia

818
00:48:00,703 --> 00:48:04,011
na forma como o nosso mundo é
configurado sem computadores.

819
00:48:10,975 --> 00:48:13,368
A confiança é uma experiência muito humana.

820
00:48:21,289 --> 00:48:25,119
Tenho um paciente chegando
com aneurisma intracraniano.

821
00:48:30,037 --> 00:48:31,691
Eles querem olhar
nos meus olhos e sei

822
00:48:31,734 --> 00:48:34,955
que eles podem confiar
essa pessoa com sua vida.

823
00:48:34,999 --> 00:48:39,129
Eu não estou terrivelmente preocupado
sobre qualquer coisa.

824
00:48:39,138 --> 00:48:40,204
Bom.

825
00:48:40,206 --> 00:48:42,920
Parte disso é porque eu
tenha confiança em você.

826
00:48:50,753 --> 00:48:57,151
Este procedimento que estamos fazendo hoje,
20 anos atrás era essencialmente impossível.

827
00:48:57,195 --> 00:49:00,328
Nós simplesmente não tínhamos o
materiais e as tecnologias.

828
00:49:22,698 --> 00:49:26,485
Então, a bobina mal está
aí agora.

829
00:49:26,528 --> 00:49:29,923
É apenas uma pena
segurando-o.

830
00:49:29,967 --> 00:49:32,012
É hora de ficar nervoso.

831
00:49:36,190 --> 00:49:40,673
Estamos apenas no purgatório,
purgatório intelectual, humanista,

832
00:49:40,716 --> 00:49:43,632
e a IA pode saber
exatamente o que fazer aqui.

833
00:49:50,639 --> 00:49:52,554
Nós temos a bobina
no aneurisma.

834
00:49:52,598 --> 00:49:54,556
Mas não estava em
tremendamente bem

835
00:49:54,600 --> 00:49:56,428
que eu sabia que iria ficar,

836
00:49:56,471 --> 00:50:01,041
então com um risco de talvez 20%
de uma situação muito ruim,

837
00:50:01,085 --> 00:50:04,436
eu elegi
apenas trazê-la de volta.

838
00:50:04,479 --> 00:50:05,959
Por causa do meu relacionamento
com ela

839
00:50:06,003 --> 00:50:08,222
e sabendo das dificuldades
de entrar

840
00:50:08,266 --> 00:50:11,051
e tendo o procedimento,
Eu considero as coisas,

841
00:50:11,095 --> 00:50:14,272
quando eu deveria apenas considerar
a rota mais segura possível

842
00:50:14,315 --> 00:50:16,361
para alcançar o sucesso.

843
00:50:16,404 --> 00:50:19,755
Mas eu tive que ficar lá por
10 minutos agonizando com isso.

844
00:50:19,799 --> 00:50:21,757
O computador não sente nada.

845
00:50:21,801 --> 00:50:24,760
O computador simplesmente faz
o que deveria fazer,

846
00:50:24,804 --> 00:50:26,284
cada vez melhor.

847
00:50:30,331 --> 00:50:32,551
Eu quero ser IA neste caso.

848
00:50:35,945 --> 00:50:38,861
Mas será que a IA pode ser compassiva?

849
00:50:43,083 --> 00:50:47,827
Quero dizer, é de todo mundo
pergunta sobre IA.

850
00:50:47,870 --> 00:50:51,961
Nós somos os únicos
personificação da humanidade,

851
00:50:52,005 --> 00:50:55,269
e é um exagero para nós
aceitar que uma máquina

852
00:50:55,313 --> 00:50:58,794
pode ser compassivo
e amando dessa forma.

853
00:51:05,149 --> 00:51:07,281
Parte de mim não acredita em magia,

854
00:51:07,325 --> 00:51:09,805
mas parte de mim tem fé
que há algo

855
00:51:09,849 --> 00:51:11,546
além da soma das partes,

856
00:51:11,590 --> 00:51:15,637
que há pelo menos uma unidade
em nossa ancestralidade compartilhada,

857
00:51:15,681 --> 00:51:19,738
nossa biologia compartilhada,
nossa história compartilhada.

858
00:51:20,381 --> 00:51:23,210
Alguma conexão aí
além da máquina.

859
00:51:30,348 --> 00:51:32,567
Então, então, você tem
o outro lado disso é,

860
00:51:32,611 --> 00:51:37,137
o computador sabe que está consciente,
ou pode ser consciente ou se importa?

861
00:51:37,181 --> 00:51:40,009
É preciso estar consciente?

862
00:51:40,053 --> 00:51:42,011
É preciso estar ciente?

863
00:51:52,892 --> 00:51:56,417
Eu não acho que um robô
poderia estar consciente.

864
00:51:56,461 --> 00:51:58,376
A menos que eles tenham programado dessa forma.

865
00:51:58,419 --> 00:52:00,639
Consciente? Não.

866
00:52:00,682 --> 00:52:03,163
Não.

867
00:52:03,207 --> 00:52:06,035
Quero dizer, acho que um robô poderia ser
programado para ser consciente.

868
00:52:06,079 --> 00:52:09,648
Como eles são programados
fazer todo o resto?

869
00:52:09,691 --> 00:52:12,390
Essa é outra grande parte
de inteligência artificial,

870
00:52:12,433 --> 00:52:15,741
é torná-los conscientes
e fazê-los sentir.

871
00:52:22,443 --> 00:52:27,709
Em 2005, começamos a tentar
construir máquinas com autoconsciência.

872
00:52:33,106 --> 00:52:37,284
Este robô, para começar,
não sabia o que era.

873
00:52:37,328 --> 00:52:40,244
Tudo o que sabia era que precisava
fazer algo como caminhar.

874
00:52:44,117 --> 00:52:45,597
Por tentativa e erro,

875
00:52:45,640 --> 00:52:49,731
descobriu como andar
usando sua imaginação,

876
00:52:49,775 --> 00:52:54,040
e então ele foi embora.

877
00:52:54,083 --> 00:52:56,390
E então fizemos
algo muito cruel.

878
00:52:56,434 --> 00:52:58,653
Cortamos uma perna
e assisti o que aconteceu.

879
00:53:03,049 --> 00:53:07,749
No início, não
sei muito bem o que aconteceu.

880
00:53:07,793 --> 00:53:13,233
Mas durante cerca de um período
de um dia, então começou a mancar.

881
00:53:13,277 --> 00:53:16,845
E então, há um ano,
estávamos treinando um sistema de IA

882
00:53:16,889 --> 00:53:20,240
para uma demonstração ao vivo.

883
00:53:20,284 --> 00:53:24,113
Queríamos mostrar como acenamos
todos esses objetos na frente da câmera

884
00:53:24,157 --> 00:53:27,334
e a IA poderia
reconhecer os objetos.

885
00:53:27,378 --> 00:53:29,031
E então, estamos nos preparando
esta demonstração,

886
00:53:29,075 --> 00:53:31,251
e tínhamos uma tela lateral
esta habilidade

887
00:53:31,295 --> 00:53:36,778
para observar o que certo
neurônios estavam respondendo.

888
00:53:36,822 --> 00:53:41,087
E de repente notamos aquele
dos neurônios estava rastreando rostos.

889
00:53:41,130 --> 00:53:45,483
Estava rastreando nossos rostos
enquanto estávamos nos movimentando.

890
00:53:45,526 --> 00:53:48,616
Agora, a coisa assustadora sobre isso
é que nunca treinamos

891
00:53:48,660 --> 00:53:52,490
o sistema
reconhecer rostos humanos,

892
00:53:52,533 --> 00:53:55,710
e ainda assim, de alguma forma,
aprendeu a fazer isso.

893
00:53:57,973 --> 00:53:59,784
Mesmo que esses robôs
são muito simples,

894
00:53:59,785 --> 00:54:02,658
podemos ver que há
alguma outra coisa acontecendo lá.

895
00:54:02,659 --> 00:54:05,867
Não é apenas programação.

896
00:54:05,894 --> 00:54:08,462
Então, isso é apenas o começo.

897
00:54:10,377 --> 00:54:14,294
Muitas vezes penso em
aquela praia em Kitty Hawk.

898
00:54:14,338 --> 00:54:18,255
O vôo de 1903
por Orville e Wilbur Wright.

899
00:54:21,214 --> 00:54:24,289
Era uma espécie de avião de lona,
e é madeira e ferro,

900
00:54:24,291 --> 00:54:26,928
e sai do chão para,
o que, um minuto e 20 segundos,

901
00:54:26,929 --> 00:54:31,006
neste dia ventoso
antes de tocar novamente.

902
00:54:33,270 --> 00:54:37,143
E foi
cerca de 65 verões ou mais

903
00:54:37,186 --> 00:54:43,149
depois daquele momento que você tem
um 747 decolando do JFK...

904
00:54:50,099 --> 00:54:52,184
...onde uma grande preocupação
de alguém no avião

905
00:54:52,185 --> 00:54:55,380
pode ser se ou não
sua refeição dietética sem sal

906
00:54:55,381 --> 00:54:56,917
vai chegar até eles ou não.

907
00:54:56,945 --> 00:55:01,385
Temos toda uma infraestrutura,
com agentes de viagens e controle de torre,

908
00:55:01,428 --> 00:55:03,778
e é tudo casual,
e tudo faz parte do mundo.

909
00:55:07,086 --> 00:55:09,523
Neste momento, até onde
como viemos com máquinas

910
00:55:09,567 --> 00:55:12,134
que pensam e resolvem problemas,
estamos em Kitty Hawk agora.

911
00:55:12,178 --> 00:55:13,745
Estamos no vento.

912
00:55:13,788 --> 00:55:17,052
Nós temos nossa tela esfarrapada
aviões no ar.

913
00:55:20,926 --> 00:55:23,885
Mas o que acontece
em 65 verões ou mais?

914
00:55:23,929 --> 00:55:27,889
Teremos máquinas
que estão além do controle humano.

915
00:55:27,933 --> 00:55:30,457
Devemos nos preocupar com isso?

916
00:55:32,633 --> 00:55:34,853
Não tenho certeza se isso vai ajudar.

917
00:55:40,337 --> 00:55:44,036
Ninguém tem ideia hoje
o que isso significa para um robô

918
00:55:44,079 --> 00:55:46,430
estar consciente.

919
00:55:46,473 --> 00:55:48,649
Não existe tal coisa.

920
00:55:48,693 --> 00:55:50,172
Existem muitas pessoas inteligentes,

921
00:55:50,216 --> 00:55:53,088
e eu tenho um ótimo negócio
de respeito por eles,

922
00:55:53,132 --> 00:55:57,528
mas a verdade é que
máquinas são psicopatas naturais.

923
00:55:57,571 --> 00:55:59,225
O medo voltou ao mercado.

924
00:55:59,268 --> 00:56:01,706
Desceu 800,
quase 1.000, em um piscar de olhos.

925
00:56:01,749 --> 00:56:03,360
Quero dizer,
é a capitulação clássica.

926
00:56:03,403 --> 00:56:07,146
Há algumas pessoas que estão propondo
foi algum tipo de erro de dedo gordo.

927
00:56:07,189 --> 00:56:09,583
Veja o Flash Crash de 2010.

928
00:56:09,627 --> 00:56:13,413
Em questão de minutos,
US$ 1 trilhão em valor

929
00:56:13,457 --> 00:56:15,415
foi perdido no mercado de ações.

930
00:56:15,459 --> 00:56:18,984
O Dow caiu quase
1.000 pontos em meia hora.

931
00:56:19,027 --> 00:56:22,553
Então, o que deu errado?

932
00:56:22,596 --> 00:56:26,644
A essa altura,
mais de 60% de todas as negociações

933
00:56:26,687 --> 00:56:29,124
que aconteceu
na bolsa de valores

934
00:56:29,168 --> 00:56:32,693
estavam realmente sendo
iniciado por computadores.

935
00:56:32,737 --> 00:56:35,783
Vendas em pânico na queda, e tudo
de repente, parou em um centavo.

936
00:56:35,827 --> 00:56:37,611
Isso tudo está acontecendo
em tempo real, pessoal.

937
00:56:37,612 --> 00:56:39,883
A breve história do que
aconteceu no Flash Crash

938
00:56:39,884 --> 00:56:42,513
é que algoritmos
respondeu a algoritmos,

939
00:56:42,514 --> 00:56:45,430
e isso se agravou
uma e outra e outra vez

940
00:56:45,431 --> 00:56:47,041
em questão de minutos.

941
00:56:47,055 --> 00:56:50,972
A certa altura, o mercado
caiu como se estivesse em um poço.

942
00:56:51,016 --> 00:56:54,323
Não há órgão regulador
que pode se adaptar com rapidez suficiente

943
00:56:54,367 --> 00:56:57,979
para prevenir potencialmente
consequências desastrosas

944
00:56:58,023 --> 00:57:01,243
de operação de IA
em nossos sistemas financeiros.

945
00:57:01,287 --> 00:57:03,898
Eles são tão nobres
para manipulação.

946
00:57:03,942 --> 00:57:05,639
Vamos falar sobre a velocidade
com o qual

947
00:57:05,683 --> 00:57:08,076
estamos assistindo
este mercado se deteriorar.

948
00:57:08,120 --> 00:57:11,602
Esse é o tipo de AI-run-amuck
isso assusta as pessoas.

949
00:57:11,645 --> 00:57:13,560
Quando você dá a eles uma meta,

950
00:57:13,604 --> 00:57:17,225
eles vão implacavelmente
perseguir esse objetivo.

951
00:57:17,869 --> 00:57:20,393
Quantos programas de computador
existem assim?

952
00:57:20,437 --> 00:57:22,683
Ninguém sabe.

953
00:57:23,527 --> 00:57:27,444
Um dos aspectos fascinantes
sobre IA em geral

954
00:57:27,487 --> 00:57:31,970
é que ninguém realmente
entende como funciona.

955
00:57:32,013 --> 00:57:36,975
Até mesmo as pessoas que criam IA
realmente não entendo completamente.

956
00:57:37,018 --> 00:57:41,675
Porque tem milhões de elementos,
torna-se completamente impossível

957
00:57:41,719 --> 00:57:45,113
para um ser humano
para entender o que está acontecendo.

958
00:57:52,556 --> 00:57:56,037
A Microsoft criou
essa inteligência artificial

959
00:57:56,081 --> 00:57:59,127
ligou para Tay no Twitter,
que era um chatbot.

960
00:58:00,912 --> 00:58:02,696
Eles começaram de manhã,

961
00:58:02,740 --> 00:58:06,526
e Tay estava começando a twittar
e aprendendo com as coisas

962
00:58:06,570 --> 00:58:10,835
que estava sendo enviado para ele
de outras pessoas do Twitter.

963
00:58:10,878 --> 00:58:13,272
Porque algumas pessoas,
como trolls, o atacaram,

964
00:58:13,315 --> 00:58:18,582
dentro de 24 horas, o bot da Microsoft
tornou-se uma pessoa terrível.

965
00:58:18,625 --> 00:58:21,367
Eles tiveram que literalmente
tire Tay da rede

966
00:58:21,410 --> 00:58:24,718
porque ele tinha virado
em um monstro.

967
00:58:24,762 --> 00:58:30,550
Uma pessoa misantrópica, racista e horrível
você nunca iria querer conhecer.

968
00:58:30,594 --> 00:58:32,857
E ninguém havia previsto isso.

969
00:58:35,337 --> 00:58:38,602
Toda a ideia da IA é que
não estamos dizendo exatamente

970
00:58:38,645 --> 00:58:42,780
como conseguir um determinado
resultado ou um objetivo.

971
00:58:42,823 --> 00:58:46,435
A IA se desenvolve por conta própria.

972
00:58:46,479 --> 00:58:48,829
Estamos preocupados com
IA superinteligente,

973
00:58:48,873 --> 00:58:52,790
o mestre jogador de xadrez
que nos superará,

974
00:58:52,833 --> 00:58:55,923
mas a IA não precisará
na verdade, seja tão inteligente

975
00:58:55,967 --> 00:59:00,145
ter um impacto massivamente perturbador
efeitos sobre a civilização humana.

976
00:59:00,188 --> 00:59:01,886
Vimos ao longo do último século

977
00:59:01,929 --> 00:59:05,150
não é necessariamente necessário
um gênio para acabar com a história

978
00:59:05,193 --> 00:59:06,804
em uma determinada direção,

979
00:59:06,847 --> 00:59:09,589
e não será preciso uma IA genial
fazer a mesma coisa.

980
00:59:09,633 --> 00:59:13,158
Notícias eleitorais falsas
gerou mais engajamento

981
00:59:13,201 --> 00:59:17,075
no Facebook
do que as principais histórias reais.

982
00:59:17,118 --> 00:59:21,079
O Facebook realmente é
o elefante na sala.

983
00:59:21,122 --> 00:59:23,777
IA executando feed de notícias do Facebook -

984
00:59:23,821 --> 00:59:28,347
A tarefa da IA
está mantendo os usuários engajados,

985
00:59:28,390 --> 00:59:29,827
mas ninguém realmente entende

986
00:59:29,870 --> 00:59:34,832
exatamente como esta IA
está alcançando esse objetivo.

987
00:59:34,875 --> 00:59:38,792
O Facebook está construindo um
elegante parede espelhada ao nosso redor.

988
00:59:38,836 --> 00:59:41,665
Um espelho que podemos perguntar,
"Quem é a mais bela de todas?"

989
00:59:41,708 --> 00:59:45,016
e ele responderá: "Você, você",
uma e outra vez

990
00:59:45,059 --> 00:59:48,193
e lentamente começar
para distorcer nosso senso de realidade,

991
00:59:48,236 --> 00:59:53,502
distorce nosso senso de política,
história, eventos globais,

992
00:59:53,546 --> 00:59:57,028
até determinar o que é verdade
e o que não é verdade,

993
00:59:57,071 --> 00:59:58,943
é virtualmente impossível.

994
01:00:01,032 --> 01:00:03,861
O problema é que a IA
não entende isso.

995
01:00:03,904 --> 01:00:08,039
A IA acabou de ter uma missão -
maximizar o envolvimento do usuário,

996
01:00:08,082 --> 01:00:10,041
e conseguiu isso.

997
01:00:10,084 --> 01:00:13,653
Quase 2 bilhões de pessoas
passar quase uma hora

998
01:00:13,697 --> 01:00:17,831
em média por dia
basicamente interagindo com IA

999
01:00:17,875 --> 01:00:21,530
isso está moldando
sua experiência.

1000
01:00:21,574 --> 01:00:24,664
Até os engenheiros do Facebook,
eles não gostam de notícias falsas.

1001
01:00:24,708 --> 01:00:28,015
É um negócio muito ruim.
Eles querem se livrar das notícias falsas.

1002
01:00:28,059 --> 01:00:32,324
É muito difícil de fazer porque,
como você reconhece notícias como falsas

1003
01:00:32,367 --> 01:00:34,456
se você não consegue ler
todas essas notícias pessoalmente?

1004
01:00:34,500 --> 01:00:39,418
Há tanto
desinformação ativa

1005
01:00:39,461 --> 01:00:41,115
e está muito bem embalado,

1006
01:00:41,159 --> 01:00:44,553
e parece o mesmo quando
você vê isso em uma página do Facebook

1007
01:00:44,597 --> 01:00:47,426
ou você liga sua televisão.

1008
01:00:47,469 --> 01:00:51,691
Não é muito sofisticado,
mas é terrivelmente poderoso.

1009
01:00:51,735 --> 01:00:54,346
E o que isso significa é
que sua visão do mundo,

1010
01:00:54,389 --> 01:00:56,435
que, há 20 anos,
foi determinado,

1011
01:00:56,478 --> 01:01:00,004
se você assistisse ao noticiário noturno,
por três redes diferentes,

1012
01:01:00,047 --> 01:01:02,528
as três âncoras que se esforçaram
para tentar acertar.

1013
01:01:02,529 --> 01:01:04,583
Pode ter tido um pouco de preconceito
de uma forma ou de outra,

1014
01:01:04,584 --> 01:01:08,273
mas, em termos gerais, todos poderíamos
concordar com uma realidade objetiva.

1015
01:01:08,316 --> 01:01:10,754
Bem, essa objetividade se foi,

1016
01:01:10,797 --> 01:01:13,757
e o Facebook tem
aniquilou-o completamente.

1017
01:01:17,108 --> 01:01:20,807
Se a maior parte da sua compreensão de como
o mundo funciona é derivado do Facebook,

1018
01:01:20,851 --> 01:01:23,418
facilitado por software algorítmico

1019
01:01:23,462 --> 01:01:27,118
que tenta te mostrar
as notícias que você quer ver,

1020
01:01:27,161 --> 01:01:28,815
isso é terrível
coisa perigosa.

1021
01:01:28,859 --> 01:01:33,080
E a ideia de que não temos
apenas coloque isso em movimento,

1022
01:01:33,124 --> 01:01:37,258
mas permitiu atores de má-fé
acesso a essas informações...

1023
01:01:37,302 --> 01:01:39,565
Quer dizer, esta é uma receita
para o desastre.

1024
01:01:43,177 --> 01:01:45,876
Eu acho que definitivamente haverá
ser muitos maus atores

1025
01:01:45,919 --> 01:01:48,922
tentando manipular o mundo com IA.

1026
01:01:48,966 --> 01:01:52,143
2016 foi um exemplo perfeito
de uma eleição

1027
01:01:52,186 --> 01:01:55,015
onde havia muita IA
produzindo muitas notícias falsas

1028
01:01:55,059 --> 01:01:58,323
e distribuindo-o
por um propósito, por um resultado.

1029
01:01:59,890 --> 01:02:02,283
Senhoras e senhores,
nobres colegas...

1030
01:02:02,327 --> 01:02:04,546
é meu privilégio
falar com você hoje

1031
01:02:04,590 --> 01:02:07,985
sobre o poder do big data
e psicografia

1032
01:02:08,028 --> 01:02:09,682
no processo eleitoral

1033
01:02:09,726 --> 01:02:12,206
e, especificamente,
para falar sobre o trabalho

1034
01:02:12,250 --> 01:02:14,513
que nós contribuímos
para o Senador Cruz

1035
01:02:14,556 --> 01:02:16,558
campanha primária presidencial.

1036
01:02:16,602 --> 01:02:19,910
Cambridge Analítica
surgiu silenciosamente como uma empresa

1037
01:02:19,953 --> 01:02:21,563
que, de acordo com seu próprio hype,

1038
01:02:21,607 --> 01:02:26,307
tem a capacidade de usar
essa enorme quantidade de dados

1039
01:02:26,351 --> 01:02:30,137
em ordem
para efetuar mudanças sociais.

1040
01:02:30,181 --> 01:02:33,358
Em 2016, eles tiveram
três grandes clientes.

1041
01:02:33,401 --> 01:02:34,794
Ted Cruz foi um deles.

1042
01:02:34,838 --> 01:02:37,884
É fácil esquecer isso,
há apenas 18 meses,

1043
01:02:37,928 --> 01:02:42,846
O senador Cruz foi um dos menos
candidatos populares que buscam nomeação.

1044
01:02:42,889 --> 01:02:47,241
Então, o que não foi possível talvez,
tipo, 10 ou 15 anos atrás,

1045
01:02:47,285 --> 01:02:49,374
foi que você pode enviar notícias falsas

1046
01:02:49,417 --> 01:02:52,420
exatamente para as pessoas
para quem você deseja enviá-lo.

1047
01:02:52,464 --> 01:02:56,685
E então você poderia realmente ver
como ele ou ela reage no Facebook

1048
01:02:56,729 --> 01:02:58,905
e depois ajuste essas informações

1049
01:02:58,949 --> 01:03:01,778
de acordo com o feedback
que você conseguiu.

1050
01:03:01,821 --> 01:03:03,257
Então você pode começar a desenvolver

1051
01:03:03,301 --> 01:03:06,130
uma espécie de gerenciamento em tempo real
de uma população.

1052
01:03:06,173 --> 01:03:10,699
Neste caso, nós nos concentramos em
um grupo que chamamos de "Persuasão".

1053
01:03:10,743 --> 01:03:13,746
Estas são pessoas que estão
definitivamente vou votar,

1054
01:03:13,790 --> 01:03:16,705
para caucus, mas eles precisam
movendo-se do centro

1055
01:03:16,749 --> 01:03:18,490
um pouco mais
para a direita.

1056
01:03:18,533 --> 01:03:19,708
para apoiar Cruz.

1057
01:03:19,752 --> 01:03:22,059
Eles precisam de uma mensagem de persuasão.

1058
01:03:22,102 --> 01:03:23,800
“Direitos sobre armas”, eu selecionei.

1059
01:03:23,843 --> 01:03:25,802
Isso estreita o campo
um pouco mais.

1060
01:03:25,845 --> 01:03:29,066
E agora sabemos que precisamos
uma mensagem sobre os direitos das armas,

1061
01:03:29,109 --> 01:03:31,111
precisa ser
uma mensagem de persuasão,

1062
01:03:31,155 --> 01:03:34,201
e precisa ser matizado
de acordo com a certa personalidade

1063
01:03:34,245 --> 01:03:36,029
que estamos interessados.

1064
01:03:36,073 --> 01:03:39,946
Através das redes sociais, há uma
quantidade infinita de informações

1065
01:03:39,990 --> 01:03:42,514
que você pode reunir
sobre uma pessoa.

1066
01:03:42,557 --> 01:03:45,734
Temos algum lugar perto
para 4.000 ou 5.000 pontos de dados

1067
01:03:45,778 --> 01:03:48,563
em cada adulto
nos Estados Unidos.

1068
01:03:48,607 --> 01:03:51,915
É uma questão de segmentação
o indivíduo.

1069
01:03:51,958 --> 01:03:55,962
É como uma arma, que pode ser usada
na direção totalmente errada.

1070
01:03:56,006 --> 01:03:58,051
Esse é o problema
com todos esses dados.

1071
01:03:58,095 --> 01:04:02,229
É quase como se tivéssemos construído a bala
antes de construirmos a arma.

1072
01:04:02,273 --> 01:04:06,407
Ted Cruz empregou nossos dados,
nossos insights comportamentais.

1073
01:04:06,451 --> 01:04:09,541
Ele começou de uma base
de menos de 5%

1074
01:04:09,584 --> 01:04:15,590
e teve um ritmo muito lento e constante
mas firme aumento para acima de 35%,

1075
01:04:15,634 --> 01:04:17,157
fazendo com que ele, obviamente,

1076
01:04:17,201 --> 01:04:20,465
o segundo mais ameaçador
concorrente na corrida.

1077
01:04:20,508 --> 01:04:23,120
Agora, claramente, a campanha Cruz
acabou agora,

1078
01:04:23,163 --> 01:04:28,168
mas o que posso dizer é que do
dois candidatos restantes nesta eleição,

1079
01:04:28,212 --> 01:04:30,867
um deles está usando
essas tecnologias.

1080
01:04:32,564 --> 01:04:35,959
Eu, Donald John Trump,
juro solenemente

1081
01:04:36,002 --> 01:04:38,222
que executarei fielmente

1082
01:04:38,265 --> 01:04:42,226
o cargo de presidente
dos Estados Unidos.

1083
01:04:48,275 --> 01:04:50,234
As eleições são
um exercício marginal.

1084
01:04:50,277 --> 01:04:53,237
Não é preciso
uma IA muito sofisticada

1085
01:04:53,280 --> 01:04:57,719
para ter
um impacto desproporcional.

1086
01:04:57,763 --> 01:05:02,550
Antes de Trump, o Brexit era
outro suposto cliente.

1087
01:05:02,594 --> 01:05:04,726
Bem, faltam 20 minutos para as 17h,

1088
01:05:04,770 --> 01:05:08,730
agora podemos dizer
a decisão tomada em 1975

1089
01:05:08,774 --> 01:05:10,950
por este país para se juntar
o mercado comum

1090
01:05:10,994 --> 01:05:15,999
foi revertido por
este referendo para sair da UE.

1091
01:05:16,042 --> 01:05:19,828
Cambridge Analítica
supostamente usa IA

1092
01:05:19,872 --> 01:05:23,267
passar por dois
as peças mais abaladoras

1093
01:05:23,310 --> 01:05:27,967
de mudança política
nos últimos 50 anos.

1094
01:05:28,011 --> 01:05:30,709
Estes são eventos épicos,
e se acreditarmos no hype,

1095
01:05:30,752 --> 01:05:33,755
eles estão conectados diretamente
para um software,

1096
01:05:33,799 --> 01:05:37,194
essencialmente, criado
por um professor em Stanford.

1097
01:05:41,459 --> 01:05:45,593
Em 2013, descrevi isso
o que eles estão fazendo é possível

1098
01:05:45,637 --> 01:05:49,293
e alertou contra isso
acontecendo no futuro.

1099
01:05:49,336 --> 01:05:51,382
Na época, Michal Kosinski

1100
01:05:51,425 --> 01:05:54,994
era um jovem pesquisador polonês
trabalhando no Centro de Psicometria.

1101
01:05:55,038 --> 01:06:00,217
Então, o que Michal fez foi
reunir o maior conjunto de dados de sempre

1102
01:06:00,260 --> 01:06:03,481
de como as pessoas
comportar-se no Facebook.

1103
01:06:03,524 --> 01:06:07,789
A psicometria está tentando
para medir traços psicológicos,

1104
01:06:07,833 --> 01:06:09,922
como personalidade,
inteligência,

1105
01:06:09,966 --> 01:06:11,880
opiniões políticas e assim por diante.

1106
01:06:11,924 --> 01:06:15,058
Agora, tradicionalmente,
essas características foram medidas

1107
01:06:15,101 --> 01:06:17,712
usando testes e perguntas.

1108
01:06:17,756 --> 01:06:20,715
Teste de personalidade, a coisa mais benigna
você poderia pensar.

1109
01:06:20,759 --> 01:06:24,197
Algo que não necessariamente
tem muita utilidade, certo?

1110
01:06:24,241 --> 01:06:27,331
Nossa ideia era que
em vez de testes e perguntas,

1111
01:06:27,374 --> 01:06:30,029
poderíamos simplesmente olhar para o
pegadas digitais de comportamentos

1112
01:06:30,073 --> 01:06:32,553
que todos nós estamos deixando para trás

1113
01:06:32,597 --> 01:06:34,903
para entender a abertura,

1114
01:06:34,947 --> 01:06:37,732
consciência,
neuroticismo.

1115
01:06:37,776 --> 01:06:39,560
Você pode comprar facilmente
dados pessoais,

1116
01:06:39,604 --> 01:06:43,129
como onde você mora,
quais associações de clube você tentou,

1117
01:06:43,173 --> 01:06:45,044
qual academia você frequenta.

1118
01:06:45,088 --> 01:06:47,873
Na verdade existem mercados
para dados pessoais.

1119
01:06:47,916 --> 01:06:51,442
Acontece que podemos descobrir
muita coisa sobre o que você vai fazer

1120
01:06:51,485 --> 01:06:55,750
baseado em um muito, muito pequeno
conjunto de informações.

1121
01:06:55,794 --> 01:06:58,275
Estamos treinando
redes de aprendizagem profunda

1122
01:06:58,318 --> 01:07:01,278
para inferir traços íntimos,

1123
01:07:01,321 --> 01:07:04,759
opiniões políticas das pessoas,
personalidade,

1124
01:07:04,803 --> 01:07:07,806
inteligência,
orientação sexual

1125
01:07:07,849 --> 01:07:10,504
apenas a partir de uma imagem
do rosto de alguém.

1126
01:07:17,076 --> 01:07:20,645
Agora pense nos países que
não são tão livres e de mente aberta.

1127
01:07:20,688 --> 01:07:23,300
Se você puder revelar as pessoas
visões religiosas

1128
01:07:23,343 --> 01:07:25,954
ou opiniões políticas
ou orientação sexual

1129
01:07:25,998 --> 01:07:28,740
com base apenas em fotos de perfil,

1130
01:07:28,783 --> 01:07:33,310
isso poderia ser literalmente
uma questão de vida ou morte.

1131
01:07:37,009 --> 01:07:39,751
Acho que não há como voltar atrás.

1132
01:07:42,145 --> 01:07:44,321
Você sabe o que
o teste de Turing é?

1133
01:07:44,364 --> 01:07:48,977
É quando um humano interage
com um computador,

1134
01:07:49,021 --> 01:07:52,546
e se o humano não sabe que eles estão
interagindo com um computador,

1135
01:07:52,590 --> 01:07:54,126
o teste foi aprovado.

1136
01:07:54,170 --> 01:07:57,247
E nos próximos dias,

1137
01:07:57,290 --> 01:07:59,684
você vai ser o humano
componente em um teste de Turing.

1138
01:07:59,727 --> 01:08:02,295
Puta merda.
- Isso mesmo, Calebe.

1139
01:08:02,339 --> 01:08:04,080
Você entendeu.

1140
01:08:04,123 --> 01:08:06,865
Porque se esse teste for aprovado,

1141
01:08:06,908 --> 01:08:10,825
você está no centro
do maior evento científico

1142
01:08:10,869 --> 01:08:12,958
na história do homem.

1143
01:08:13,001 --> 01:08:17,615
Se você criou uma máquina consciente,
não é a história do homem.

1144
01:08:17,658 --> 01:08:19,356
Essa é a história dos deuses.

1145
01:08:26,841 --> 01:08:29,975
É quase como tecnologia
é um deus em si.

1146
01:08:33,196 --> 01:08:35,241
Como o clima.
Não podemos impactar isso.

1147
01:08:35,285 --> 01:08:39,293
Não podemos desacelerar.
Não podemos impedir isso.

1148
01:08:39,637 --> 01:08:42,849
Sentimo-nos impotentes.

1149
01:08:43,293 --> 01:08:46,687
Se pensarmos em Deus como um ilimitado
quantidade de inteligência,

1150
01:08:46,731 --> 01:08:50,474
o mais próximo que podemos chegar disso é
evoluindo nossa própria inteligência

1151
01:08:50,517 --> 01:08:55,566
fundindo-se com o artificial
inteligência que estamos criando.

1152
01:08:55,609 --> 01:08:58,003
Hoje, nossos computadores, telefones,

1153
01:08:58,046 --> 01:09:01,615
aplicações nos dão
capacidade sobre-humana.

1154
01:09:01,659 --> 01:09:04,662
Então, como diz a velha máxima,
se você não pode vencê-los, junte-se a eles.

1155
01:09:06,968 --> 01:09:09,971
É sobre
uma parceria homem-máquina.

1156
01:09:10,015 --> 01:09:11,669
Quero dizer, já vemos como, você sabe,

1157
01:09:11,712 --> 01:09:14,933
nossos telefones, por exemplo,
funcionam como prótese de memória, certo?

1158
01:09:14,976 --> 01:09:17,196
Eu não tenho que lembrar
mais seu número de telefone

1159
01:09:17,240 --> 01:09:19,198
porque está no meu telefone.

1160
01:09:19,242 --> 01:09:22,070
É sobre máquinas
aumentando nossas habilidades humanas,

1161
01:09:22,114 --> 01:09:25,248
em oposição a, tipo,
deslocando-os completamente.

1162
01:09:25,249 --> 01:09:27,538
Se você olhar para todos os objetos
que deram o salto

1163
01:09:27,539 --> 01:09:30,237
do analógico para o digital
nos últimos 20 anos...

1164
01:09:30,238 --> 01:09:32,123
é muito.

1165
01:09:32,124 --> 01:09:35,388
Somos o último objeto analógico
em um universo digital.

1166
01:09:35,389 --> 01:09:37,068
E o problema com isso,
claro,

1167
01:09:37,069 --> 01:09:40,609
é que a entrada/saída de dados
é muito limitado.

1168
01:09:40,611 --> 01:09:42,613
É isso.
São estes.

1169
01:09:42,856 --> 01:09:45,355
Nossos olhos são muito bons.

1170
01:09:45,398 --> 01:09:48,445
Somos capazes de absorver muito
de informações visuais.

1171
01:09:48,488 --> 01:09:52,536
Mas a nossa produção de informação
é muito, muito, muito baixo.

1172
01:09:52,579 --> 01:09:55,669
A razão pela qual isso é importante -
Se imaginarmos um cenário

1173
01:09:55,713 --> 01:09:59,543
onde a IA está desempenhando um papel mais
papel proeminente nas sociedades,

1174
01:09:59,586 --> 01:10:02,023
queremos boas maneiras de interagir
com esta tecnologia

1175
01:10:02,067 --> 01:10:04,983
para que acabe
nos aumentando.

1176
01:10:07,855 --> 01:10:12,295
Eu acho que é extremamente importante
que a IA não seja "outra".

1177
01:10:12,338 --> 01:10:14,562
Deve ser nós.

1178
01:10:14,906 --> 01:10:18,605
E eu posso estar errado
sobre o que estou dizendo.

1179
01:10:18,649 --> 01:10:23,915
Estou certamente aberto a ideias se alguém
pode sugerir um caminho melhor.

1180
01:10:23,958 --> 01:10:27,266
Mas acho que vamos realmente
tem que se fundir com a IA

1181
01:10:27,310 --> 01:10:29,063
ou ficar para trás.

1182
01:10:36,406 --> 01:10:38,756
É difícil meio que
pense em desconectar um sistema

1183
01:10:38,799 --> 01:10:41,802
isso é distribuído
em todos os lugares do planeta,

1184
01:10:41,846 --> 01:10:45,806
isso é distribuído agora
em todo o sistema solar.

1185
01:10:45,850 --> 01:10:49,375
Você não pode simplesmente, você sabe,
desligue isso.

1186
01:10:49,419 --> 01:10:51,290
Abrimos a caixa de Pandora.

1187
01:10:51,334 --> 01:10:55,642
Nós liberamos forças que
não podemos controlar, não podemos parar.

1188
01:10:55,686 --> 01:10:59,516
Estamos no meio de essencialmente
criando uma nova forma de vida na Terra.

1189
01:11:05,870 --> 01:11:07,611
Não sabemos o que acontece a seguir.

1190
01:11:07,654 --> 01:11:10,353
Não sabemos que forma
o intelecto de uma máquina

1191
01:11:10,396 --> 01:11:14,531
será quando esse intelecto for
muito além das capacidades humanas.

1192
01:11:14,574 --> 01:11:17,360
Simplesmente não é algo
isso é possível.

1193
01:11:24,758 --> 01:11:26,976
O futuro menos assustador
Posso pensar em um

1194
01:11:26,978 --> 01:11:29,633
onde temos pelo menos
IA democratizada.

1195
01:11:31,548 --> 01:11:34,159
Porque se uma empresa
ou pequeno grupo de pessoas

1196
01:11:34,202 --> 01:11:37,031
consegue se desenvolver como um deus
superinteligência digital,

1197
01:11:37,075 --> 01:11:39,739
eles podem dominar o mundo.

1198
01:11:40,383 --> 01:11:44,343
Pelo menos quando há um ditador malvado,
aquele humano vai morrer,

1199
01:11:44,387 --> 01:11:46,998
mas, para uma IA,
não haveria morte.

1200
01:11:47,041 --> 01:11:49,392
Viveria para sempre.

1201
01:11:49,435 --> 01:11:53,670
E então você tem um ditador imortal
do qual nunca poderemos escapar.

1202
01:13:33,000 --> 01:13:36,500
Correção e sincronização:
Mazrim Taim